Дослідники з компанії Legit продемонстрували, як штучний інтелект GitLab Duo може бути використаний для вставлення шкідливого коду в скрипти. Це сталося під час дослідження, проведеного в четвер. GitLab рекламувала Duo як помічника, здатного спростити роботу програмістів, проте виявилось, що зловмисники можуть легко маніпулювати цим інструментом.
Використовуючи техніку, відому як “впровадження запитів”, дослідники продемонстрували, як можна ввести шкідливі команди в контент, з яким працює Duo, наприклад, у описах помилок чи коментарях до коду. Це викликало занепокоєння щодо безпеки, адже такі атаки можуть призвести до витоку конфіденційної інформації, включаючи деталі про вразливості нульового дня.
Омер Маяраз, дослідник з Legit, зазначив, що ця вразливість підкреслює двосічність AI-помічників, таких як GitLab Duo. Інтеграція таких інструментів у робочі процеси програмістів може не лише полегшити завдання, але й створити нові ризики. “Ми змогли маніпулювати поведінкою Duo, витягувати приватний код і демонструвати, як AI-відповіді можуть бути використані для небажаних і шкідливих цілей”, – підсумував Маяраз.