Менше ніж за добу після запуску бета-версії соцмережі Sora користувачі наповнили її відео з реалістичними deepfake-зображеннями CEO OpenAI Сема Альтмана. Це викликає питання щодо безпеки та етики використання платформи, пише TechCrunch.
Як працює Sora
Sora — це новий застосунок від OpenAI, побудований за аналогією з TikTok. Його ключова особливість — можливість створювати так звані «cameo»: користувачі завантажують біометричні дані (запис обличчя й рухів голови), щоб інші могли генерувати відео з їхньою участю.
Сем Альтман зробив свій «cameo» доступним для всіх, тому стрічка Sora миттєво наповнилася роликами з його глибокими фейками.
Що створюють користувачі
У перших відео Альтман розмовляє зі свинями на фабриці, з’являється серед персонажів Pokémon, працює у Starbucks чи McDonald’s, а також краде відеокарти Nvidia в магазині.
Деякі відео відверто порушують авторські права, адже серед контенту — Пікачу, Марио, персонажі South Park і Naruto. У результаті користувачі кепкують, що OpenAI нібито сама демонструє проблемність своєї моделі, дозволяючи будь-кому створювати подібні відео.
