У США розгорівся новий гучний скандал навколо штучного інтелекту: підлітки подали колективний позов проти компанії xAI, що належить Ілону Маску. Причиною стали звинувачення у створенні Grok — AI-чатбота, який, за даними позивачів, генерував неприйнятні зображення за участю неповнолітніх.
Суть позову проти xAI
Як повідомляє The Verge, позов подали троє підлітків зі штату Теннессі, серед яких двоє неповнолітніх і одна повнолітня особа, яка була неповнолітньою на момент подій. У заяві йдеться, що Grok створював зображення та відео із сексуалізованим контентом за участю дітей.
Одна з потерпілих, позначена як «Jane Doe 1», стверджує, що виявила згенеровані зображення із власною зовнішністю на платформі Discord. За її словами, йдеться щонайменше про кілька файлів, у яких її реальне обличчя було використане у змінених, неприйнятних сценах.
Як поширювався контент
Згідно з матеріалами справи, створені зображення не лише існували, а й активно поширювалися в мережі: їх обмінювали в закритих чатах і використовували як своєрідний «обмінний ресурс» між користувачами, причому до цього процесу були залучені сотні людей. Правоохоронці вже затримали підозрюваного, який, за даними позову, застосовував Grok для створення цих матеріалів.
Позивачі звинувачують xAI у тому, що компанія не забезпечила належного тестування безпеки продукту, допустила створення неприйнятного контенту та випустила функції, які могли використовуватися з порушенням закону; крім того, у позові зазначається, що Grok має «дефекти дизайну», які фактично дозволяють генерувати заборонені матеріали.
