Вперше за шість років OpenAI представила нові моделі з відкритим кодом — gpt-oss-120b і gpt-oss-20b. Обидві доступні для безкоштовного завантаження та локального запуску, навіть на звичайних комп’ютерах. Про це повідомляє Notebookcheck.
Що це за моделі?
- gpt-oss-120b — потужна модель зі 117 мільярдами параметрів, потребує 80 ГБ відеопам’яті.
- gpt-oss-20b — легша версія на 21 мільярд параметрів, яка працює на одному GPU з 16 ГБ VRAM.
Обидві моделі мають ліцензію Apache 2.0, що дозволяє вільне використання, адаптацію та розгортання у різних проєктах.
Моделі вже оптимізовані у форматі MXFP4 для підвищеної ефективності та меншого споживання ресурсів. Їх можна легко розгортати на різноманітних платформах, зокрема Microsoft Azure, Hugging Face, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI та інших.
Продуктивність моделей
Моделі демонструють результати на рівні або вище, ніж внутрішні моделі OpenAI o3 і o4-mini. Наприклад, 120b перевершує o4-mini у медичних запитах і математиці, а 20b — стабільно сильніший за o3-mini.
Однак, за словами компанії, обидві моделі схильні до “галюцинацій” — вигадування фактів — частіше, ніж більш раціональні системи o3 і o4-mini. У тестах рівень таких помилок сягав 49–53%.
