Whisper на чистом C++ — без Python и без GPU

Whisper на чистом C++ — без Python и без GPU

OpenAI выпустили Whisper для распознавания речи, а сообщество ggml переписало модель на чистом C++ — без Python, без PyTorch, вообще без внешних зависимостей.

Получился whisper.cpp — 51 тысяча звёзд на GitHub. Работает офлайн прямо на устройстве: iPhone, Android, Raspberry Pi, Linux, Windows, даже WebAssembly в браузере.

На чипах Apple ускорение идёт через Metal и Core ML — в 3+ раза быстрее CPU. Есть поддержка Nvidia, AMD ROCm, Vulkan и архитектуры Power.

Мы сами гоняем Whisper каждый день — для транскрибации субтитров в наших видео. Здесь та же модель, только легче и без тяжёлых зависимостей.

Лицензия MIT. Ставь звезду, если пригодится.

MUSIN PRO | MUSIN PRO MAX | GitHub

#musinpro #omcon #opensource #ИИ #whisper