Компанія Anthropic оголосила про запуск нової функції створення файлів для свого асистента Claude. Ця можливість дозволяє користувачам генерувати Excel таблиці, презентації PowerPoint та інші документи безпосередньо у веб-інтерфейсі та в десктопному додатку. Хоча функція виглядає корисною, в документації компанії зазначено, що вона може поставити дані користувачів під загрозу.
Функція, що отримала незграбну назву “Удосконалене створення та аналіз файлів”, є аналогом інструменту Code Interpreter від ChatGPT та покращеною версією попереднього аналізатора Anthropic. Наразі вона доступна у режимі попереднього перегляду для користувачів планів Max, Team та Enterprise, а для Pro користувачів доступ має з’явитися в найближчі тижні.
Основна проблема безпеки полягає в тому, що нова функція надає Claude доступ до пісочниці, що дозволяє завантажувати пакунки та виконувати код для створення файлів. Anthropic попереджає: “Ця функція надає Claude доступ до Інтернету для створення та аналізу файлів, що може поставити ваші дані під загрозу”. Користувачам радять уважно стежити за чатами при використанні цієї функції.
Згідно з документацією Anthropic, “зловмисник” може маніпулювати цією функцією, додаючи приховані інструкції через зовнішні файли або вебсайти, що може призвести до витоку чутливих даних. Це описує атаку через ін’єкцію запитів, де приховані інструкції можуть впливати на поведінку моделі штучного інтелекту.
Компанія зазначає, що вразливості нової функції були виявлені під час “тестування безпеки” перед випуском. Рекомендації щодо запобігання проблемам з безпекою полягають у ретельному моніторингу поведінки Claude під час використання цієї функції, хоча це покладає відповідальність за безпеку виключно на користувача.