В иллюстраторе .ai, также он делает .eps и .pdf
Плагины не потребуются. У тебя будет два варианта:
1. Быстрый: file>place>object>tracing options (не забудь поставить color и output to swatches, остальные опции подгонишь под конкретную картинку)
2. Сложный, но вектор "чище" - вручную, с помощью Pen Tool рисуешь вектор поверх картинки сам. Картинку перед этим лучше "залочить" Object>lock>selection
подходят почти все картинки: если из Фотошопа, то все возьмет: и jpg и tif и psd.
Кстати: пути из Фотошопа легче прямо в Иллюстратор загнать - они сразу там векторами станут, не надо будет векторить

File>Export>Paths to Illustrator