Autoři:
Barend Mons, emeritní profesor Leidenské univerzity, člen správní rady nadace GO FAIR a ředitel LIFES, Leidenské iniciativy pro FAIR a spravedlivou vědu
Arie Baak, člen představenstva Asociace LIFES pro FAIR a spravedlivou vědu
Koen Jonkers, Evropská komise, Společné výzkumné středisko (JRC), Brusel, Belgie
Umělá inteligence transformuje způsob, jakým je věda prováděna, sdělována a ověřována. Je skutečně slibná, umožňuje rozpoznávání vzorců v měřítku, kterému se žádný lidský výzkumník nemůže rovnat, zrychluje pracovní postupy a otevírá nové cesty k objevům. Umělá inteligence je však také rychlá, není bezchybná a nerozlišuje, zatímco věda je časově náročná a pečlivá ze své podstaty. Napětí mezi těmito dvěma realitami již nyní vytváří vážné dysfunkce: záplavu publikací a dat generovaných umělou inteligencí, degradované vzájemné hodnocení, halucinační poznatky a narušenou důvěru ve vědecké záznamy. Dovednosti požadované od budoucích vědců se zásadně mění a vědecká politika s tím nedrží krok. Řešení této mezery je naléhavé.
Věda se pozoruhodnou rychlostí posunula z prostředí řídkých dat do prostředí bohatého na data. Zatímco dříve vědci generovali skromné datové sady a sdělovali své poznatky primárně prostřednictvím článků čitelných pro člověka, nyní pracují v éře exponenciálního generování dat. Velká část z nich je vysokorozměrná, distribuovaná a zpracovatelná pouze stroji. Tento trend se však neodráží ve skutečném opětovném použití dat. Aby se to změnilo, je nyní nutné s daty samotnými zacházet jako s prvotřídním vědeckým výstupem, nikoli jako s vedlejším produktem článků.
Stroje vynikají v hledání vzorců ve velkých a složitých datových sadách. Stroje však nemají žádný inherentní koncepční model reality relevantní pro člověka. Výsledkem je téměř neomezená zásoba vzorců, z nichž mnohé jsou falešné a některé zavádějící. Ústřední výzvou pro příští generaci vědců bude orientace v této džungli vzorců: rozlišování smysluplného signálu od statistického šumu. Lidský dohled není volitelný; je strukturálně nezbytný.
Tvůrci politik by si také měli být vědomi toho, že umělá inteligence ve vědě sahá daleko za rámec modelů velkých jazyků (Large Language Models), které v současnosti dominují veřejné diskusi. Širší oblast zahrnuje strojové učení pro generování hypotéz, automatizované experimentální pracovní postupy a uvažování založené na znalostních grafech, přičemž každé z nich s sebou nese specifická rizika a příležitosti, které vyžadují přizpůsobené reakce správy a řízení.
Kvalita výstupů umělé inteligence ve vědě je přímo určena kvalitou dat. vstupData FAIR (Findable, Accessible, Interoperable and Reusable, stále častěji chápaná jako Fully AI Ready) jsou základním předpokladem pro zodpovědnou vědu řízenou umělou inteligencí. Bez nich jsou modely umělé inteligence trénovány na surovém, nekurátorovaném, potenciálně zaujatém nebo dokonce vykonstruovaném obsahu, což vede k halucinacím, které mohou být v klinických kontextech život ohrožující a které systematicky podkopávají důvěru ve vědu. Zejména tam, kde opětovné použití snadno dohledatelných dat probíhá převážně subjekty, které nejsou založeny na vědeckých poznatcích, jako jsou současné společnosti zabývající se LLM.
Stejně důležité je použití koncepčních modelů FAIR k omezení umělé inteligence. výstupyPoskytováním strukturovaných sémantických rámců, kde je každý koncept dobře definován, jak spolu souvisí a co se považuje za platný závěr, tyto modely významně snižují riziko halucinací a pomáhají zajistit, aby zjištění generovaná umělou inteligencí zůstala vysvětlitelná, interpretovatelná a ověřitelná lidmi.
Krize integrity ve vědeckém publikování tato rizika zhoršuje. Systémy umělé inteligence nyní dokáží téměř okamžitě generovat věrohodné články, data a recenze. Jen v roce 2025 obdržela jedna přední konference o umělé inteligenci přes 20 000 příspěvků. Reakce (vědci využívající umělou inteligenci k recenzování článků generovaných umělou inteligencí) riskuje vytvoření uzavřené smyčky zpětné vazby, v níž se chybné systémy navzájem hodnotí bez smysluplné externí kontroly. FAIR data publikovaná u zdroje, kde lze ověřit původ, patří mezi nejrobustnější dostupné nástroje, jak tomuto trendu čelit.
Základem toho všeho je strukturální selhání v pobídkách. Výzkumníci jsou stále odměňováni převážně za počet článků a míru citací, což je metrika určená pro éru omezených dat. Publikování vysoce kvalitních dat FAIR s sebou nese jen malé odborné uznání a žádné zaručené financování. To se musí změnit.
Technická správa dat ve vědě je v krizi. Desítky let závislosti na malém počtu velkých poskytovatelů cloudových služeb v kombinaci s právními nástroji, jako je americký zákon o cloudových službách (US Cloud Act), vytvořily problém datové suverenity, který je nyní akutní, zejména s ohledem na nedávnou politickou nestabilitu USA a její dopady na mezinárodně sdílenou výzkumnou infrastrukturu. Mnoho klíčových světových zdrojů vědeckých dat je fakticky mimo jurisdikční kontrolu institucí a komunit, které je vytvořily.
Principy FAIR, doplněné principy CARE (které se zabývají právy a zájmy domorodých obyvatel v oblasti správy dat), poskytují ucelený rámec pro zodpovědné hospodaření. Společně definují podmínky, za kterých by data měla být otevřená nebo omezená, opakovaně použitelná a suverénní. Koncept internetu dat a služeb FAIR (IFDS), ve kterém data zůstávají u zdroje a jsou navštěvována autorizovanými algoritmy, spíše než aby byla kopírována a centralizována, nabízí praktické architektonické řešení. V tomto modelu se výpočetní dotazy dostávají do distribuovaných datových uzlů; data se do centralizovaných úložišť nedostávají, pokud to není nevyhnutelné.
Spravedlivá účast na vědě založené na umělé inteligenci rovněž vyžaduje, aby tato infrastruktura byla skutečně přístupná. Instituce a komunity v zemích globálního Jihu nemohou být pasivními subjekty opětovného využití dat. Na druhém konci spektra konektivity by neměl být vyloučen datově náročný průmysl. Distribuovaná infrastruktura FAIR, navržená tak, aby se zabránilo závislosti na dodavateli a vzniku jednotlivých bodů selhání, je mechanismem, který umožňuje smysluplnou účast.
Soudržná politická reakce vyžaduje opatření na několika frontách:
Věda je globální veřejný statek. Její integritu, rovnost a otevřenost nelze předpokládat; vyžadují aktivní politická rozhodnutí. Možnost zavést řádnou správu a řízení umělé inteligence ve vědecké produkci je sice otevřená, ale nezůstane tak donekonečna. Rozhodnutí, která jsou nyní učiněna ohledně datových standardů, infrastruktury, pobídek a dohledu, určí, zda umělá inteligence urychlí důvěryhodnou vědu, nebo ji systematicky podkopává.
Foto od Getty Images pro Unsplash+
Tento blog, pořádaný ve spolupráci Mezinárodní vědecké rady (ISC) a Frontiers Policy Labs, je součástí… „Nové řízení vědy v 21. století“" série sloužící jako dynamické diskusní fórum pro myšlenkové vůdce o budoucnosti vědecké správy a řízení. Iniciativa se odklání od rigidních akademických studií a sdružuje přední světové hlasy, aby přinášela ostré, provokativní, ale zároveň důkazy založené a progresivní názory. Chce tak přispět k definování odolného, inkluzivního a transparentního modelu správy a řízení, který bude připraven na výzvy zítřka.
Viz původní příspěvek zde.
Odmítnutí odpovědnosti
Informace, názory a doporučení prezentované v našich hostujících blozích jsou názory jednotlivých přispěvatelů a nemusí nutně odrážet hodnoty a přesvědčení Mezinárodní vědecké rady.
Přečtěte si více o nově vznikajících technologiích a transformacích Přečtěte si více o programu ISC-CAST, který spouští nové školení v oblasti umělé inteligence a výzkumné komunikace pro výzkumníky na začátku a v polovině kariéry. Přečtěte si více o Moderní vědě: geostrategické, technologické a společenské faktory ovlivňující změnu Přečtěte si více o Organizované vědě ve věku umělé inteligence: Dříme za volantem? 