OpenAI представила нові моделі GPT-4 Turbo з покращеними здібностями до міркування. Вони використовуються в сервісі ChatGPT та мають кращу продуктивність у вирішенні логічних завдань і аналізі складної інформації. Проте з новими можливостями зʼявились і нові виклики.
Як повідомляє TechCrunch, розробники виявили, що ці моделі частіше “галюцинують”, тобто вигадують факти або відповіді, які звучать правдоподібно, але не відповідають дійсності.
Під «галюцинацією» у сфері штучного інтелекту мають на увазі випадки, коли модель генерує неправдиву або вигадану інформацію. Це одна з головних проблем сучасних генеративних AI-систем.
У випадку GPT-4 Turbo проблема виникає частіше, коли модель намагається розмірковувати складніше або опрацьовує абстрактні запити. OpenAI підтверджує, що працює над покращенням точності та фактологічної надійності відповідей.
Попри зростання популярності генеративного AI, користувачі мають бути обережними з довірою до відповідей навіть найбільш просунутих моделей. Компанії, які інтегрують такі інструменти в свої сервіси, повинні враховувати потенційні ризики.
OpenAI наразі не надала конкретних термінів, коли точність відповідей буде покращено, але зазначила, що це один із головних напрямів дослідження на 2025 рік.
Хоч нові моделі AI стають дедалі розумнішими, вони не завжди є точними. Якщо ви використовуєте ChatGPT чи інші продукти на базі GPT-4 Turbo — памʼятайте, що завжди варто перевіряти важливу інформацію з надійних джерел.
