Компанія Soundslice оголосила про розробку нової функції після того, як виявила, що ChatGPT неправильно інформував користувачів про можливість імпорту ASCII табулатури – текстового формату для гітари, який компанія ніколи не підтримувала. Цей випадок став першим відомим випадком, коли бізнес реагує на вигадану інформацію штучного інтелекту.
Soundslice спеціалізується на оцифруванні нот з фотографій або PDF-файлів і синхронізації нот з аудіо чи відеозаписами. Це дозволяє музикантам бачити, як нотний запис прокручується, поки вони слухають виконання. Платформа також має інструменти для сповільнення відтворення та практики складних фрагментів.
Адріан Головатий, співзасновник Soundslice, зазначив у блозі, що процес розробки нової функції почався як повна загадка. Він помітив незвичайну активність в системі помилок: замість звичайних завантажень нот користувачі надсилали скріншоти розмов з ChatGPT, що містили ASCII табулатуру.
Головатий написав, що система сканування не була призначена для підтримки цього стилю нот, і він залишався в здивуванні протягом тижнів, поки не протестував ChatGPT сам. Виявилося, що штучний інтелект інструктував користувачів створювати облікові записи Soundslice та використовувати платформу для імпорту ASCII табулатури – функції, якої не існувало. “Ми ніколи не підтримували ASCII таб; ChatGPT обманював людей,” – зазначив Головатий.
Коли AI моделі, як ChatGPT, генерують неправдиву інформацію з явною впевненістю, дослідники називають це “галюцинацією” або “конфабуляцією”. Проблема конфабуляції в AI існує з моменту публічного випуску ChatGPT у листопаді 2022 року, коли люди почали помилково використовувати чат-бота як заміну пошуковій системі.