Fałszywe przypisy i „halucynacje” AI w publikacji naukowej

Autor skargi, skierowanej do państwowej Komisji ds. Nadużyć w Badaniach Naukowych (NPOF), wskazał na sześć przypisów w książce, które odsyłają do nieistniejących źródeł. Według zgłoszenia, fragmenty te miały zostać „sfabrykowane” przez sztuczną inteligencję, która – jak wiadomo – potrafi generować wiarygodnie brzmiące, lecz nieprawdziwe informacje, tzw. halucynacje AI.

Wyjaśnienia profesor Dignum

W rozmowie z dziennikiem „Dagens Nyheter” prof. Virginia Dignum tłumaczyła, że błędy pojawiły się podczas korzystania z programu Latex, służącego do sortowania przypisów.

Listy biograficzne nie zostały wymyślone przez sztuczną inteligencję, ale nieprawidłowo przekonwertowane – zapewnia badaczka. Dignum przyznaje jednak, że korzystała z narzędzi takich jak ChatGPT, Claude czy Gemini, aby poprawić język angielski w swojej książce. Czasami pytałam, czy zdanie jest wystarczająco jasne - dodaje.

Zapytana o zakres poprawek dokonanych przez AI, profesor Dignum ocenia, że mogło to być „po kilka zdań w każdym rozdziale”, maksymalnie 10 procent całości, choć – jak sama przyznaje – nie prowadziła dokładnych wyliczeń.

Etyka pod lupą

Autor skargi podkreśla, że osoba zajmująca się etyką AI powinna wykazywać się szczególną ostrożnością przy korzystaniu z nowoczesnych narzędzi edytorskich. Tym bardziej, że Dignum jest nie tylko profesorem i szefową AI Policy LAB na Uniwersytecie w Umea, ale także doradczynią wielu instytucji publicznych i firm oraz prelegentką na międzynarodowych konferencjach - w tym w Watykanie.

Komisja bada sprawę

Sekretarz NPOF, Jonas Jeppson, odmówił komentarza na temat toczącego się postępowania, ale przyznał, że liczba przypadków nieprawidłowości związanych z przypisami w publikacjach naukowych rośnie.