Нещодавно у Луврі відбулася крадіжка, яка привернула увагу не лише медіа, а й експертів у сфері технологій. Зловмисники, переодягнені в жилети будівельників, використали підйомник для доступу до балкона музею. Ця хитромудра стратегія дозволила їм уникнути підозри, адже вони виглядали як звичайні робітники.
Вражаюче, але ця крадіжка показує, як людська психологія може бути використана для маніпуляції. Згідно з дослідженнями, ми часто сприймаємо світ через призму звичних категорій, і злочинці це розуміли. Так само й системи штучного інтелекту працюють на основі вивчених шаблонів, вбираючи в себе культурні упередження.
Соціолог Ервін Гофман зазначав, що люди виконують соціальні ролі, адаптуючи свою поведінку до очікувань оточуючих. У випадку з Лувром, злочинці успішно «переконали» охоронців у своїй нормальності.
Цей інцидент підкреслює важливість розуміння, як алгоритми формують наші уявлення. Коли системи штучного інтелекту навчаються на даних, що містять упередження, вони можуть помилково ідентифікувати небезпечних осіб, не помічаючи тих, хто дійсно може бути загрозою.
Після крадіжки Міністр культури Франції пообіцяв посилити охорону, однак, навіть найсучасніші системи не зможуть повністю усунути ці упередження, якщо не переосмислити, як ми визначаємо «підозрілу» поведінку.
Лувр став наочним прикладом того, як сприйняття та категоризація можуть впливати на безпеку. Це виклик для технологій та суспільства: перед тим, як навчати машини, нам потрібно навчитися ставити під сумнів власні уявлення.