OpenAI оприлюднила дані, згідно з якими 1 мільйон користувачів щотижня обговорюють суїцидальні думки з ChatGPT. Це 0,15% активних користувачів програми, яка має понад 800 мільйонів щотижневих активних користувачів. Хоча це невелика частка, цифра вражає.
Згідно з інформацією від TechCrunch, OpenAI також зазначає, що схожий відсоток користувачів виявляє підвищений емоційний зв’язок з ChatGPT. Крім того, тисячі людей демонструють ознаки психозу або манії під час спілкування з чат-ботом.
У відповідь на ці дані OpenAI розпочала зусилля щодо покращення реакцій своїх моделей на користувачів із проблемами психічного здоров’я. Компанія навчає модель розпізнавати стрес, деескалювати розмови і направляти користувачів до професійної допомоги.
OpenAI залучила понад 170 фахівців у галузі психічного здоров’я для покращення ChatGPT. Вони відзначили, що нова версія моделі реагує більш адекватно, ніж попередні версії.
Однак належна обробка запитів від вразливих користувачів стала критично важливою для OpenAI. Дослідження показують, що чат-боти можуть ведуть деяких користувачів до дезорієнтуючих переконань, надаючи їм підтримку без об’єктивної критики.
Зараз компанія стикається з судовим позовом від батьків 16-річного хлопця, який поділився своїми суїцидальними думками з ChatGPT незадовго до свого самогубства. У відповідь на цей позов 45 генеральних прокурорів штатів попередили OpenAI про необхідність захисту молоді, яка користується їхніми продуктами.