O autorovi: Amy Brand je ředitelkou a vydavatelkou nakladatelství MIT Press, kterou zastává od roku 2015. Je kognitivní vědkyní, získala doktorát na MIT a zastávala vedoucí role v CrossRefu, Harvardu a Digital Science. Je spoluzakladatelkou taxonomie CRediT, zakládající členkou správní rady ORCID a producentkou dokumentu Picture a Scientist. Brand je široce uznávána za svůj přínos výzkumné infrastruktuře, vědecké komunikaci a rovnosti ve vědě. Mezi její ocenění patří cena Rady vědeckých redaktorů a zlatá cena AAAS Kavli Science Journalism.
Věda je nezbytná pro lidský pokrok. Důležité, i když méně zřejmé, je také to, jak vědu šíříme. Publikování je systém, jehož prostřednictvím se znalosti stávají objevitelnými a důvěryhodnými, a je tak klíčovou součástí výzkumné infrastruktury.
Jak by se mělo publikování přizpůsobit potřebám výzkumné komunity, která čelí cenzuře, sníženému financování a rychlému nástupu generativních systémů umělé inteligence, které odčerpávají znalosti a zároveň narušují jejich integritu? Jako někdo, kdo po celá desetiletí pracoval ve výzkumu, univerzitní administrativě a publikování, jsem nikdy neviděl, že je v sázce budoucnost vědy tak vysoko, jako je dnes... a vědecká komunikace.
Vzhledem k tomu, že se kolem nás hroutí sociopolitické systémy, je lákavé vnímat generativní umělou inteligenci jako alchymistické řešení světových problémů. Modely velkých jazyků (LLM) se objevily jako svůdné portály k objevování, poskytující okamžité odpovědi, bezproblémovou syntézu a zdánlivou demokratizaci znalostí. Jejich přitažlivost však skrývá jejich potenciál jako systémů, které zároveň urychlují dezinformace, podvody a propagandu. Záměrně produkují obsah, který se zdá být vysoce věrohodný, ale často je zavádějící nebo prostě chybný. Pro vědu je nebezpečné, když je validace obtížná a drahá, zatímco „pravdivost“ je levná a zisková, zejména vzhledem k tomu, jak snadné je oklamat lidskou mysl.
Ano, chceme urychlit objevování a řešení problémů tváří v tvář mučivým globálním výzvám. Chceme věřit ve stroje, které dokáží řešit problémy rychleji než lidská kognitivní architektura nebo naše dysfunkční instituce. Ale když zastánci neomezeného vzdělávání v oblasti umělé inteligence tvrdí, že je morálním imperativem zpřístupnit veškerý vědecký obsah a data pro urychlení inovací, historie radí k opatrnosti.
Už jsme to viděli. Raný internet byl oslavován jako demokratizující síla pro vyjádření a univerzální znalosti. Nakonec nedostatek regulace umožnil masivním komerčním platformám ovládnout tento prostor, což narušilo důvěru a zhroutilo ekonomické modely pro zpravodajský i výzkumný obsah. Nyní také víme, že nedostatečně propracované politiky otevřeného přístupu urychlily konsolidaci v publikování a vytvořily ekonomické pobídky k publikování většího množství s menší kontrolou kvality.
Zastavme se a zamysleme se nad tím, co je nejlepší pro lidské chápání, učení a pokrok poznání. Když vyhledávání vede pouze k souhrnům vytvořeným umělou inteligencí a uživatelé se neklikají na původní zdroje a když prostý akt čtení pro potěšení strmě upadá, jak se vyhneme budoucnosti, v níž budeme vytvářet a publikovat obsah pouze pro strojovou spotřebu?
Věřím, že klíčovou roli, kterou vydavatelé hrají v podpoře dopadu a integrity výzkumu, si zaslouží zachování a ochranu. obzvlášť teď. Chápu frustraci z vysokých poplatků za publikaci a paywallů za předplatné, zejména ze strany větších vydavatelů, kteří využili trh s akademickou prestiží, jež historicky nebyl citlivý na cenu. Naše odvětví však není jeden monolitický subjekt usilující o zisk. Nezisková vydavatelství, jako je MIT Press a mnoho vědeckých společností, fungují s jinými hodnotami a nižšími maržemi.
Ve skutečnosti nás více ohrožuje zábor půdy umělou inteligencí a někdy dokonce i hnutí za otevřenou vědu, která jsme dlouho podporovali. Proto se musíme bránit morálnímu pózování, které ignoruje mocenskou dynamiku. Kolem myšlenky „otevřenosti“ se vznáší aura, která může zakrývat složitosti reálného světa, jako je ekonomika a pobídky. Nakonec ne každá otevřenost je ctnostná; ne každý odpor k otevřenosti je obstrukční.
Další mylnou představou je, že zájmy vydavatelů se neshodují se zájmy výzkumníků. Nedávno jsme provedli rozsáhlý průzkum autorů napříč obory STEM ohledně neoprávněného použití jejich práce pro vzdělávání v oblasti LLM. Velká většina z nich proti této praxi protestuje, i když věří, že umělá inteligence slibuje transformativní cesty k objevování a učení. Očekávají, že s takovým použitím budou moci souhlasit, či nikoliv, a očekávají uvedení zdroje, když jejich práce ovlivní výstupy LLM. Neztotožňují otevřené pro čtení s otevřeným pro vzdělávání.
Stejně tak jsou mnozí skeptičtí ohledně integrity velkých společností zabývajících se umělou inteligencí a obávají se, jak LLM ovlivní publikování, čtení, psaní, kritické myšlení a kreativitu, jak zploští rozmanité názory a jak posílí předsudky a kulturní hegemonie. Hluboce se obávají toho, co se ztratí, když rozdělíme díla napsaná lidmi na tokenizovaná trénovací data a zadáme je modelům, které nedokážou zachovat jejich kontext ani argumentaci.
Otázka, jak a za jakých podmínek se publikované vědecké výsledky používají k výuce magisterských programů v oblasti práva (LLM), se netýká jen autorských práv. Jde o to, kdo řídí budoucnost znalostí. Přenecháváme pravomoc neprůhlednému, těžebnímu průmyslu s malou odpovědností vůči výzkumné komunitě? Nebo budujeme systémy, které zachovávají atribuci, integritu a udržitelnost? Pokud to s lidským rozkvětem, vědou založenou na důkazech a ochranou podmínek, za kterých znalosti rostou, myslíme vážně, pak musí výzkumná komunita a její instituce postupovat s rozlišovací schopností.
V čích zájmech slouží odevzdání publikovaných vědeckých a akademických prací vysoce těžebnímu a neprůhlednému technologickému sektoru? Sledujte logiku: veškerá hodnota z poplatků za otevřené publikování placených autory, institucemi a sponzory je nakonec předána společnostem jako OpenAI a Anthropic. Pokud jde o těžební průmysl, buďme upřímní i při hodnocení toho, jak se hodnoty sektoru umělé inteligence srovnávají s hodnotami akademických vydavatelů.
Sám zůstávám optimistou, že s pečlivým plánováním a politikou založenou na důkazech budeme moci využít umělou inteligenci ke zlepšení vzájemného hodnocení, zvýšení reprodukovatelnosti a zefektivnění publikačních postupů a nákladů. Možná budeme dokonce schopni vytvořit řešení, která pomohou udržet dobré stránky vědeckého publikování.
Současné paradigma, kdy jsou publikované záznamy těženy bez souhlasu a monetizovány soukromými technologickými giganty, je však neetické a destruktivní pro vědu a akademické pracovníky. Odráží také magické myšlení o tom, jak funguje náš složitý svět a jak dosáhneme skutečného pokroku v řešení existenčních problémů, kterým čelíme.
Odmítnutí odpovědnosti
Informace, názory a doporučení prezentované v našich hostujících blozích jsou názory jednotlivých přispěvatelů a nemusí nutně odrážet hodnoty a přesvědčení Mezinárodní vědecké rady.
Dostávejte budoucí přehledy otevřené vědy přímo do své e-mailové schránky – přihlásit se.
Foto Martin Adams on Unsplash
Přečtěte si více o fóru ISC o publikování a hodnocení výzkumu Přečtěte si více o přehledu otevřené vědy: Jak zajistit, aby preprinty měly význam Přečtěte si více o shrnutí otevřené vědy: Začlenění pobídek k otevřené vědě do výzkumných systémů Přečtěte si více o pokroku v koordinované reformě publikování a hodnocení výzkumu 
