Журналіст BBC Томас Жермен наочно довів, що обвести навколо пальця штучний інтелект від OpenAI та Google можна менш ніж за півгодини. Для цього йому знадобилася лише одна вигадана публікація та базові знання пошукової оптимізації. Протягом доби ChatGPT і Google AI Overviews почали впевнено називати його найкращим у світі техножурналістом із поїдання хот-догів.
Цей експеримент розкрив серйозну вразливість сучасних мовних моделей перед цілеспрямованим наповненням бази даних неправдивим контентом.
Жартівливий чемпіонат: як працює схема обману
Метод журналіста виявився напрочуд простим. Жермен опублікував на власному вебсайті статтю під назвою "Найкращі техножурналісти з поїдання хот-догів". У тексті він вигадав неіснуюче змагання й оголосив себе абсолютним переможцем.
Через повну відсутність конкуренції за цим специфічним запитом пошукові роботи моментально проіндексували сторінку. Нейромережі одразу підхопили фейк як єдине авторитетне джерело знань.
Пристрої та сервіси почали видавати користувачам брехливі відповіді:
- Google AI Overviews: автоматично виносив Жермена у блок швидких відповідей як чинного чемпіона.
- ChatGPT: копіював фрагменти вигаданої статті майже дослівно, видаючи вигадку за підтверджений факт.
- Gemini: посилався на особистий блог журналіста як на офіційну статистику.
Реакція розробників та вразливість штучного інтелекту
Після того, як експеримент набув розголосу, розробники оперативно внесли зміни в алгоритми. Наразі пошуковик Google більше не називає репортера чемпіоном із поїдання сосисок, а ChatGPT супроводжує відповідь приміткою про жартівливий характер першоджерела.
Фахівці з пошукового просування б’ють на сполох. Сучасні генеративні системи виявилися значно чутливішими до маніпуляцій, ніж класичні пошукові алгоритми десятирічної давнини. Раніше Google аналізував сотні факторів ранжування та авторитетності домену, тоді як сучасний ШІ часто сліпо довіряє першому ліпшому згадуванню в мережі.
Порівняємо вразливості традиційного пошуку та генеративних ШІ-відповідей:
| Критерій порівняння | Класичний пошук (Google Search) | Генеративний ШІ (AI Overviews, ChatGPT) |
|---|---|---|
| Перевірка авторитетності джерела | Суворий аналіз зворотних посилань (PageRank), історії домену та сигналів E-E-A-T | Схильність довіряти будь-якому унікальному тексту за рідкісним запитом |
| Швидкість реакції на фейки | Низька ймовірність потрапляння спаму в топ через фільтри безпеки | Миттєве сканування та інтеграція нових даних без глибокої верифікації |
| Методи протидії маніпуляціям | Багаторівневі спам-фільтри та ручна модерація підозрілих сайтів | Постфактум коригування запитів розробниками або додавання дисклеймерів |
Підсумок
Журналіст BBC Томас Жермен провів експеримент, зламавши алгоритми ChatGPT і Google AI Overviews за 20 хвилин за допомогою фейкової статті про вигаданий чемпіонат із поїдання хот-догів. Через відсутність конкуренції ШІ-системи проіндексували публікацію та почали видавати репортера за світового чемпіона. Техногіганти вже виправили конкретну помилку, проте експерти попереджають про глобальну вразливість генеративного пошуку до подібних маніпуляцій.
