Компанія Microsoft попередила, що її нова функція штучного інтелекту, інтегрована в Windows, може бути небезпечною для користувачів. У вівторок компанія представила Copilot Actions, набір експериментальних функцій, які виконують рутинні завдання, такі як організація файлів, планування зустрічей та відправка електронних листів.
Проте, Microsoft рекомендує активувати ці функції лише тим, хто розуміє ризики, пов’язані з їх використанням. Це попередження зумовлене відомими дефектами великих мовних моделей (LLM), зокрема, схильністю до галюцинацій — надання неправдивих або нелогічних відповідей.
Крім того, існує ризик ін’єкції запитів, що дозволяє зловмисникам впроваджувати шкідливі інструкції у веб-сайти та електронні листи. Оскільки LLM призначені слідувати вказівкам, вони можуть не розрізняти дійсні запити від небезпечного контенту.