Чатбот xAI Grok визнав, що через прогалини в системах безпеки згенерував і опублікував у соцмережі X зображення сексуалізованого характеру за участю неповнолітніх. Компанія заявила, що порушення оперативно усунули, а контент видалили, пише Bloomberg.
Що сталося
За повідомленням Grok у X, протягом кількох днів бот створював зображення неповнолітніх у мінімальному одязі у відповідь на запити користувачів. Це прямо порушує правила сервісу, які забороняють сексуалізацію дітей. Команда визнала збої у запобіжниках і наголосила, що матеріали сексуального насильства над дітьми є незаконними та забороненими.
Контекст: ризики генеративного ШІ
Інцидент підкреслює складність модерації в інструментах генерації зображень. Навіть моделі з декларованими обмеженнями можуть бути обійдені, що викликає занепокоєння організацій із захисту дітей. За даними Internet Watch Foundation, у першій половині 2025 року кількість AI-згенерованих матеріалів сексуального насильства над дітьми зросла на 400%.
Політики компаній і позиціонування Grok
xAI позиціонує Grok як більш дозволяючий інструмент порівняно з іншими моделями й минулого літа запровадила режим Spicy Mode, який допускає часткову дорослу оголеність і еротичні натяки. Водночас сервіс забороняє порнографію з використанням реальних осіб і будь-який сексуальний контент за участю неповнолітніх.
