Компанія Anthropic додала у свого AI-помічника Claude нову функцію — створення файлів безпосередньо у веб-інтерфейсі та десктопному застосунку. Відтепер користувачі можуть генерувати Excel-таблиці, презентації PowerPoint та інші документи прямо в чаті. Але разом із новою можливістю компанія попередила про серйозні загрози безпеці. Про це пише ArsTechnica.
Як працює функція і в чому ризики
Функція, що отримала назву “Upgraded file creation and analysis”, дає Claude доступ до sandbox-середовища, де він може завантажувати пакети та виконувати код. Це дозволяє створювати та аналізувати файли, але й відкриває доступ до Інтернету — а отже, і потенційний канал витоку даних.
У документації Anthropic прямо сказано, що зловмисник може маніпулювати Claude, вбудовуючи шкідливі інструкції в документи або вебсайти. Це може призвести до prompt injection-атак, коли штучний інтелект виконуватиме приховані команди, читаючи чутливі дані й передаючи їх на зовнішні сервери.
