Sociálne siete vedcov sa vo štvrtok prehnali hrôzou a pohŕdaním, pretože niekoľko strašne zlých čísel generovaných umelou inteligenciou kolovalo z… Recenzovaný článok Nedávno uverejnené v prestížnom časopise. Všetky tieto čísla – ktoré autori v texte článku uznávajú, že sú výtvorom Midgourney – sú nevysvetliteľné. Obsahujú nezrozumiteľný text a čo je najpozoruhodnejšie, jeden z nich obsahuje obrázok potkana s podivne veľkými a zvláštnymi genitáliami, ako aj textový nadpis „dck“.

Vo štvrtok vydavateľ prehľadového článku, Frontiers, Uverejnil „Vyjadrenie znepokojenia“ Poznamenáva, že si je vedomá obáv súvisiacich so zverejneným dielom. „Momentálne prebieha vyšetrovanie a toto oznámenie bude po dokončení vyšetrovania zodpovedajúcim spôsobom aktualizované,“ napísal vydavateľ.

Predmetný článok má názov „Bunkové funkcie spermatogénnych kmeňových buniek vo vzťahu k signálnej dráhe JAK/STAT“ a napísali ho traja výskumníci v Číne, vrátane zodpovedajúceho autora Dingjun Hao z nemocnice Xi'an Honghui. Bol publikovaný online v utorok v časopise Frontiers in Cell and Developmental Biology.

Frontiers neodpovedali okamžite na žiadosť Ars o komentár, ale tento príspevok aktualizujeme o akúkoľvek odpoveď.

Prvá postava v novinách, ktorá obsahovala myš, upútala okamžitú pozornosť, keď ju vedci začali široko zdieľať a komentovať na platformách sociálnych médií vrátane Bluesky a platformy predtým známej ako Twitter. Už z diaľky je jasné, že anatomický obraz je úplne chybný. Ale bližší pohľad odhalí viac nedostatkov, vrátane označení „dissilced“, kmeňová bunka, „iollotte sserotgomar“ a „dck“. Mnohí výskumníci vyjadrili prekvapenie a zdesenie, že takýto očividne zlý obraz vytvorený umelou inteligenciou by mohol prejsť cez partnera. – Systém recenzií a akékoľvek interné spracovanie prítomné v časopise.

Ale potkaní balík nie je jediný problém. Obrázok 2 je menej grafický, ale rovnako skreslený. Aj keď to má byť schéma komplexnej signálnej dráhy, je to namiesto toho neporiadok. Odborník na vedeckú integritu Zaujímalo by ma, či nedáva príliš komplikované vysvetlenie „ako vyrobiť šišku s farebnými posýpkami“. Rovnako ako prvý obrázok, aj diagram je plný nezmyselného textu a mätúcich obrázkov. Obrázok 3 nie je o nič lepší a predstavuje zbierku malých kruhových obrázkov obsahujúcich anotácie plné nezmyslov. Obrázok má poskytnúť vizuálne znázornenie toho, ako signálna dráha z obrázku 2 reguluje biologické vlastnosti spermatogénnych kmeňových buniek.

Niektorí vedci na internete sa pýtali, či text nevygenerovala aj umelá inteligencia. Jeden používateľ poznamenal, že softvér na detekciu AI zistil, že je pravdepodobne generovaná AI; Ako však už Ars uviedol, takéto programy sú nespoľahlivé.

Obrázky, aj keď sú to hrozné príklady, poukazujú na rastúci problém vo vedeckom publikovaní. Úspech vedcov závisí vo veľkej miere od ich publikačných záznamov, pričom vysoký objem publikácií, časté publikovanie a články objavujúce sa v špičkových časopisoch prinášajú vedcom väčšie postavenie. Systém podnecuje menej svedomitých výskumníkov k publikovaniu nekvalitných článkov, ktoré budú pravdepodobne generované pomocou umelej inteligencie v dobe chatbotov poháňaných AI. Výskumníci sa obávajú, že rastúce využívanie umelej inteligencie spôsobí, že publikovaný výskum bude menej dôveryhodný. Výskumné časopisy ako také nedávno vyvinuli nové usmernenia pre tvorbu textov generovaných AI, aby sa pokúsili vyriešiť tento problém. Ale zatiaľ, ako ukazuje článok Frontiers, sú tu jasne určité medzery.