OpenAI завершила суперечливу реструктуризацію свого комерційного підрозділу в корпорацію, що займається суспільним благом: це черговий сплеск у вирі, який охопив сотні мільярдів доларів глобальних інвестицій в інструменти штучного інтелекту (ШІ). Але навіть коли компанія зі штучним інтелектом, заснована як некомерційна організація, оцінена зараз у 500 мільярдів доларів, завершує свою довгоочікувану реструктуризацію, залишається невирішеною настирлива проблема з її основною пропозицією: галюцинації.

Large language models (LLM), такі як ті, що лежать в основі популярної платформи ChatGPT від OpenAI, схильні впевнено видавати фактично невірні твердження. Ці помилки часто пояснюються поганими вхідними даними, але в препринті, опублікованому минулого місяця, команда з OpenAI та Технологічного інституту Джорджії доводить, що навіть за бездоганних навчальних даних LLM ніколи не можуть бути всезнаючими — частково тому, що деякі питання просто не мають відповіді за своєю суттю.

За словами дослідників, корінь проблеми може полягати в тому, як навчаються фахівці з права. Вони вчаться блефувати, оскільки їхня продуктивність оцінюється за допомогою стандартизованих критеріїв, які винагороджують впевнені припущення та карають за чесну невпевненість. У відповідь команда закликає до перегляду бенчмаркінгу, щоб точність і самосвідомість мали таке ж значення, як і впевненість. Хоча деякі експерти вважають препринт технічно переконливим, реакції на запропонований ним засіб різняться. Дехто навіть ставить під сумнів, наскільки далеко OpenAI зайде, використовуючи власний метод, щоб навчити свої моделі пріоритезувати правдивість над залученням.

Джерело https://www.science.org/content/article/ai-hallucinates-because-it-s-trained-fake-answers-it-doesn-t-know

Ще одна гучна справа зацікавила науковців. Прочитати зараз