Sztuczna inteligencja zalewa pracami naukowymi

Fot. Adobe Stock
Fot. Adobe Stock

Serwis preprintów arXiv jest tak zalewany często niskiej jakości artykułami generowanymi przez sztuczną inteligencję, że stał się praktycznie bezużyteczny - ostrzegają matematycy na łamach „New Scientista”.

ArXiv to elektroniczne archiwum prac naukowych, które nie były jeszcze publikowane ani recenzowane, jednak mogą być tam umieszczane wyłącznie przez zarejestrowanych i zaufanych autorów (endorsers). Aby zostać zaufanym autorem, wystarczy potwierdzenie od innego zaufanego autora. Większość prac umieszczanych w arXiv jest publikowana także w renomowanych czasopismach naukowych.

Prace umieszczone w arXIV są dostępne bezpłatnie dla wszystkich użytkowników internetu. Są to artykuły dotyczące fizyki i astronomii, matematyki, informatyki, statystyki i biologii oraz matematyki finansowej. Archiwum powstało w roku 1991 w Los Alamos National Laboratory, a obecnie funkcjonuje przy Cornell University. Dzięki ArXiv pracownicy naukowi mają możliwość bycia na bieżąco z tym, co dzieje się w ich dziedzinach.

Gwałtowny wzrost możliwości matematycznych sztucznej inteligencji i jej zdolność do automatycznego generowania artykułów z dużą szybkością i minimalnym nakładem pracy ludzkiej sprawiają, że strona internetowa arXiv jest zalewana coraz większą liczbą artykułów. Grozi to przepełnieniem bazy i uczynieniem jej bezużyteczną.

O ile we wrześniu 2024 roku do arXiv zgłoszono 20 569 artykułów, to rok później liczba ta wzrosła do 26 646, a we wrześniu 2026 roku – aż do 40 363.

Kevin Buzzard z Imperial College London twierdzi na łamach "New Scientista", że zgłaszanie autentycznych artykułów stało się trudniejsze, ponieważ moderatorzy arXiv są przeciążeni pracą, a artykuły mogą znikać w kolejce recenzji na całe tygodnie. Liczba opublikowanych artykułów jest tak duża, że Buzzard nie jest w stanie codziennie ręcznie ich czytać. Musi korzystać ze sztucznej inteligencji, aby podpowiadała mu, na których artykułach się skupić.

„Problem polega na tym, że artykuły o charakterze prowizorycznym nie wyjaśniają dobrze pewnych rzeczy. Nie chodzi tylko o poprawność; chodzi o ludzkie zrozumienie, a sztuczna inteligencja czasami bardzo słabo sobie z tym radzi” - wskazał Buzzard.

Dzięki dostępowi do sztucznej inteligencji matematycy nieprofesjonalni mogą teraz rozwiązywać dość trudne problemy i automatycznie generować artykuły przedstawiające wyniki, które następnie można opublikować w arXiv. Jednak takie artykuły są często krytykowane przez matematyków. Na przykład Chaim Goodman-Strauss z Uniwersytetu Arkansas opisał w tym tygodniu jeden artykuł – zawierający poprawne rozwiązanie długotrwałego problemu – jako „w zasadzie prowizoryczny”.

Terence Tao z Uniwersytetu Kalifornijskiego w Los Angeles poskarżył się niedawno w wywiadzie dla „New Scientista”, że sposób, w jaki dokonuje się odkryć matematycznych i „zrzuca” je na społeczność matematyczną, może w rzeczywistości zaszkodzić tej dziedzinie.

Modele sztucznej inteligencji rozwiązują problemy matematyczne w coraz szybszym tempie, a technika zwana formalizacją jest kluczowa dla wykazania, że ich deklarowane rozwiązania są rzeczywiście poprawne. Problem w tym, że trzeba zaufać procesowi formalizacji.

Aby ograniczyć liczbę prac o niskiej jakości, generowanych przez sztuczną inteligencję, serwis wprowadził nowy limit dla przesyłających artykuły. Obecnie mogą oni przesyłać tylko dwa artykuły w miesiącu kalendarzowym i mieć łącznie trzy aktywne zgłoszenia w danym momencie.

Zasady ArXiv od dawna zezwalają autorom na korzystanie ze sztucznej inteligencji, pod warunkiem jej ujawnienia. ArXiv odnotował jednak wzrost liczby artykułów o wąskim zakresie i „niskiej wartości”.

Podjęto także działania mające pozwolić na dostosowanie się do nowej rzeczywistości. Na przykład nowa strona o nazwie Hexagon to miejsce dla „pre-preprintów”, artykułów generowanych przez AI, których matematycy mogą jeszcze nie w pełni zrozumieć.

Paweł Wernicki (PAP)

pmw/ zan/

Fundacja PAP zezwala na bezpłatny przedruk artykułów z Serwisu Nauka w Polsce pod warunkiem mailowego poinformowania nas raz w miesiącu o fakcie korzystania z serwisu oraz podania źródła artykułu. W portalach i serwisach internetowych prosimy o zamieszczenie podlinkowanego adresu: Źródło: naukawpolsce.pl, a w czasopismach adnotacji: Źródło: Serwis Nauka w Polsce - naukawpolsce.pl. Powyższe zezwolenie nie dotyczy: informacji z kategorii "Świat" oraz wszelkich fotografii i materiałów wideo.

Czytaj także

  • Fot. Adobe Stock

    Norwegia/ Będzie trudniej prowadzić badania na Svalbardzie

  • 07.10.2026 EPA/FREDRIK SANDBERG

    Nobel za lustrzaną chemię, która dała nam lepsze leki

Przed dodaniem komentarza prosimy o zapoznanie z Regulaminem forum serwisu Nauka w Polsce.

newsletter

Zapraszamy do zapisania się do naszego newslettera