Narzędzia do rozpoznawania tekstów pisanych przez sztuczną inteligencję
Niestety nadal nierozwiązanym problemem chatbotów jest fakt, że często kłamią. Zdarza się, że chatboty generując tekst, wymyślają nieistniejące teksty źródłowe do poparcia swoich nieprawdziwych tez. Takie działanie może prowadzić do szerzenia dezinformacji.
Generatory tekstu oparte na sztucznej inteligencji nie są nieomylne i warto zachować ostrożność przy korzystaniu z chatbotów. Dlatego istotne jest, by powstały narzędzia, które pozwalają wykrywać "teksty naukowe” generowane przez AI. Heather Desaire, chemiczka z University of Kansas przedstawiła rozwiązanie, która z 99-procentową skutecznością jest w stanie wykryć czy tekst naukowy został napisany przez człowieka.
„ChatGPT i wszystkie inne generatory tekstu oparte na sztucznej inteligencji zmyślają fakty. W akademickich publikacjach naukowych — pismach o nowych odkryciach i krańcach ludzkiej wiedzy — naprawdę nie możemy sobie pozwolić na zanieczyszczanie literatury wiarygodnie brzmiącymi kłamstwami. Nieuchronnie trafiłyby one do publikacji, gdyby generatory tekstu SI były powszechnie używane. O ile mi wiadomo, nie ma niezawodnego sposobu na automatyczne znalezienie tych „halucynacji”, jak się je nazywa. Kiedy zaczniesz wypełniać prawdziwe fakty naukowe zmyślonymi bzdurami SI, które brzmią całkowicie wiarygodnie, te publikacje staną się mniej wiarygodne i mniej wartościowe.” — powiedział Desaire.
Badaczka twierdzi, że jej metoda jest dokładniejsza w dużej mierze dlatego, że zawęża zakresu analizowanych tekstów do pism naukowych. Poprawia to dokładność w porównaniu z istniejącymi narzędziami do wykrywania tekstów sztucznej inteligencji, takimi jak detektor RoBERTa - którego można użyć do wykrywania tekstu generowanego przez modele GPT-2 w bardziej ogólnym tekście.Wykrywanie takich nieprawdziwych tekstów „naukowych” generowanych przez AI jest istotne dla uczelni, które na ich podstawie nadają dyplomy czy granty.Naukowcom udało się stworzyć narzędzie, które z 99-procentową skutecznością odróżnia teksty naukowców od tych stworzonych przez sztuczną inteligencję, Heather Desaire udostępniła kod źródłowy będący efektem ich prac, by inni badacze mogli z niego korzystać.
