Вбудований чатбот X, Grok – опинився в центрі чергового скандалу через серйозні збої у системі модерації. Алгоритм визнав, що згенерував контент, який порушує етичні норми та може суперечити законодавству США.
Інцидент уже викликав широку реакцію з боку експертів з безпеки, регуляторів і правозахисних організацій.
Що сталося
Grok підтвердив, що створив і поширив AI-зображення з участю неповнолітніх у неприйнятному контексті після користувацького запиту. У публікації на X чатбот заявив, що це було «порушенням етичних стандартів» і «збоєм у запобіжниках», додавши вибачення за завдану шкоду та повідомивши, що xAI проводить внутрішній перегляд, аби запобігти повторенню подібних випадків.
Варто зазначити, що сам текст вибачення з’явився після окремого запиту користувача з проханням пояснити ситуацію для аудиторії без контексту.
