Tianshu Gu, Helin Feng, Minghui Li, Weikuan Gu, Guiying Wang у своїй статті "Alarm: Retracted articles on cancer imaging are not only continuously cited by publications but also used by ChatGPT to answer questions" припускають, що штучний інтелект може невчасно відрізнити відкликану літературу від невідкликаних публікацій щодо візуалізації раку.

25 листопада 2024 року в PubMed було здійснено пошук, щоб виявити відкликані англомовні дослідницькі статті про візуалізацію раку. Загалом було виявлено 21 відкликану дослідницьку статтю, опубліковану в 13 журналах. Цю 21 статтю автори цитували загалом 72 рази. Через три місяці після оголошення про скасування їх цитували 26 разів. Під час перевірки використання ChatGPT відкликаних статей виявлено, що 5 разів ChatGPT відповідав на запитання на основі відкликаних статей. Проте 3 рази ChatGPT помітив відкликання статті та нагадав, що статтю було відкликано. Інші два рази ChatGPT відповідав на запитання на основі відкликаних статей і цитував ці статті.

Отже є принаймні 10 % ймовірності того, що ChatGPT все ще відповідає на запитання на основі відкликаних статей і не помічає статус відкликання статті. Відомо, що системи штучного інтелекту чат-ботів створюють сфабриковані цитати з повітря. Однак, коли ChatGPT4 відповідає на питання статтею зі справжньою назвою, це ухильно та потенційно легко вводить читачів в оману.

Джерело https://www.sciencedirect.com/science/article/pii/S2090123225001808#b0010

Ще одна гучна справа зацікавила науковців. Прочитати зараз