Autor:
Zeptejte se téměř jakéhokoli tvůrce vědecké politiky nebo poskytovatele finančních prostředků na výzkum, co si myslí o umělé inteligenci, a dostanete známou odpověď. Umělá inteligence mění způsob, jakým vědci pracují. Zrychluje rešerše literatury, zpracovává datové sady v dříve nepředstavitelných měřítcích, pomáhá s psaním a recenzováním rukopisů. Je to pozoruhodný a stále nepostradatelnější nástroj pro zvýšení produktivity.
To není špatně. Ale může to být neúplné.
Zaujetí umělou inteligencí jako nástrojem pro vědce (což bychom mohli nazvat „úzkým pohledem“ na umělou inteligenci ve vědě) tiše vytlačuje zásadnější soubor otázek. Otázky, které si komunita organizací a institucí odpovědných za řízení, financování a koordinaci vědy na globální úrovni (co já budu nazývat organizovanou vědou) sotva začala klást.
Dominantní diskuse o umělé inteligenci ve vědě je v podstatě diskusí o akceleraci. Umělá inteligence toho dokáže více a rychleji. Dokáže najít v datech vzory, které by lidé přehlédli. Dokáže je formulovat, překládat a shrnout. To jsou skutečné výhody a vědecká komunita jim právem věnuje pozornost.
Ale toto rámování implicitně zachází s umělou inteligencí jako s něčím, co vědci použití, sofistikovaný přístroj, ne nepodobný mikroskopu nebo sekvenceru, jen všestrannější. A když je tímto nástrojem rám, je kladení některých otázek obtížnější.
Co se stane, když umělá inteligence nejen pomáhá s výzkumným procesem, ale chování Co se stane, když umělá inteligence nejen zpracovává data, ale také formuluje hypotézy, navrhuje experimenty a interpretuje výsledky víceméně autonomně? Nejedná se o vzdálený sci-fi scénář. Existují... již publikované příklady systémů umělé inteligence generujících nové vědecké hypotézy s minimálním lidským zásahem a přední světoví vývojáři umělé inteligence popisují plně autonomní výzkum umělé inteligence jako záležitost let, nikoli desetiletí.
Abychom si jasně uvědomili, co je v sázce, je dobré rozlišovat mezi dvěma obecnými scénáři.
V prvním – věda vedená člověkem – Umělá inteligence prostupuje každou fází výzkumného procesu, ale lidští vědci zůstávají u řízení. Lidé stále rozhodují o tom, co zkoumat. Stále stanovují výzkumnou agendu, formulují otázky a určují, kam směřuje výzkum. I když většinu skutečného výzkumu provádí umělá inteligence, na volantu je lidská ruka, která rozhoduje, kam pojede. Takhle jsme dnes víceméně, i když míra zapojení umělé inteligence rapidně roste.
Ve druhém – Věda založená na umělé inteligenci – Umělá inteligence nejen provádí výzkum, ale také rozhoduje o tom, co bude zkoumat. Samotný výzkumný program již nestanovují pouze lidé. Systémy umělé inteligence stále více formují, které otázky se kladou, které hypotézy se generují a které experimenty se upřednostňují, a přesouvají se od provádění k stanovování programu. Budoucí pokroky, jako je zahrnutí fyzické umělé inteligence a robotických laboratorních systémů, mohou tento posun dále prohloubit a umožnit modelům přímo se podílet na experimentování, nikoli pouze na analýze. Jak by to v praxi vypadalo, zůstává skutečně nejisté. Již však bylo naznačeno, že Věda založená na umělé inteligenci by mohla vypadat velmi odlišně od všeho, co známe, což by potenciálně mohlo změnit nejen tempo vědy, ale i její základní logiku: cyklus lidské zvědavosti, dohadů a experimentálního designu, který po staletí definoval produkci znalostí.
V mezeře mezi těmito dvěma scénáři se nacházejí zajímavé otázky.
Když systémy umělé inteligence mohou provádět výzkum autonomně, vyvstává řada zásadních otázek, které jdou daleko za hranice etických pokynů nebo zásad zveřejňování informací. Mezi ně patří:
Dokáže umělá inteligence generovat skutečně nové znalosti? Většina současných modelů je založena na obrovském množství existujících lidských znalostí. Mohou z nich vyvodit skutečně nové poznatky o povaze vesmíru, nebo se v konečném důsledku jedná o sofistikované systémy pro rekombinaci toho, co je již známo?
Co se stane s institucionalizovanou vědou? Pokud lze výzkum provádět poloautonomně pomocí umělé inteligence, znamená to, že kdokoli se může efektivně „být“ vědcem? Zůstanou univerzity a výzkumné ústavy, jak je známe, primárním místem produkce znalostí? A pokud ano, posouvá se role vědce stále více směrem k ověřování, jako je ověřování faktů, replikace a validace výsledků produkovaných umělou inteligencí, spíše než k objevování?
Jak si vybudujeme důvěru ve znalosti produkované umělou inteligencí? Vědecká komunita si v průběhu staletí vyvinula soubor norem a mechanismů pro ověřování znalostí – vzájemné hodnocení, replikaci, otevřená data atd. Tyto normy byly navrženy pro vědu vytvořenou člověkem. Nemusí se však jasně shodovat s vědou vytvořenou umělou inteligencí.
Posiluje otevřená věda neúmyslně vědu soukromého sektoru? Posun směrem k otevřenému přístupu a otevřeným datům je obecně považován za dobrou věc. Rostoucí dostupnost vědeckých poznatků ve veřejné doméně však také znamená, že je mohou volně shromažďovat komerční technologické společnosti za účelem trénování a vylepšování svých modelů umělé inteligence. To vytváří potenciální napětí mezi ideálem vědy jako globálního veřejného statku a rizikem nového systému generování znalostí, který je stále méně odpovědný globální vědecké komunitě.
Nepříjemnou realitou je, že organizace a instituce odpovědné za řízení vědy se v této diskusi zdají být do značné míry nepřítomny. Multilaterální systém se pochopitelně zaměřuje na etiku a řízení umělé inteligence. Jednotliví investoři do výzkumu a univerzity se zaměřují na aktualizaci svých politik pro zodpovědné používání nástrojů umělé inteligence. To jsou nezbytné reakce na bezprostřední tlaky.
Ale větší otázky o budoucí povaze vědy, budoucí roli lidských výzkumníků a budoucnosti produkce znalostí jako veřejného statku zůstávají na institucionální úrovni do značné míry nezodpovězeny. Projekt Science Systems Futures Jedním z takových projektů, které realizuje Mezinárodní vědecká rada, je pokus o zkoumání některých z nich a o tom, jak nově vznikající technologie přetvářejí vědecké systémy v zemích globálního Jihu. Tyto rozhovory však zůstávají příliš vzácné.
Mezitím je umělá inteligence rychle přijímána výzkumníky v terénu, často s velkým předstihem před jakýmikoli institucionálními pokyny. To odhaluje skutečný rozpor: vedoucí představitelé organizované vědy se stále snaží pochopit, co umělá inteligence je a jak by mohla věci změnit, zatímco ruce jsou již hluboko v procesu transformace.
Jsme, řečeno jednoduše, za volantem?
Argument zde není o tom, že můžeme nebo bychom měli zpomalit zavádění umělé inteligence ve vědě. Není to ani rada k zoufalství. Je to výzva organizované vědě, aby se zaměřila na bezprostřední budoucnost a zaměřila se na dlouhodobější perspektivu – aby se neptala jen „jak dnes zodpovědně používat umělou inteligenci?“, ale „jaký vědecký systém chceme za deset nebo dvacet let a co by k tomu bylo potřeba?“.
To znamená vytvořit prostor pro jiný druh konverzace, takovou, která spojí odborníky, kteří důkladně přemýšlejí o nejistotě, o dlouhém oblouku produkce znalostí a o limitech současných rámců. Tyto konverzace by se méně zaměřovaly na reakce správy na umělou inteligenci v její dnešní podobě, ale více na škálu možných budoucností a na to, co by znamenalo být na ně připraven.
Znamená to také zajistit, aby vědecká komunita, včetně výzkumníků i tvůrců politik, měla koncepční nástroje k tomu, aby se těmito otázkami zabývala jako informovaní účastníci, nikoli jako subjekty změn. Patří sem rámce pro uvažování o působení umělé inteligence, epistemologii strojově generovaných znalostí a dlouhodobé důsledky pro to, kdo řídí výzkumnou agendu.
Možnosti pro dosažení tohoto cíle se zužují. Organizovaná věda má příležitost a pravděpodobně i odpovědnost formovat způsob, jakým umělá inteligence transformuje produkci znalostí, spíše než aby se jednoduše přizpůsobovala změnám, které jsou zcela vyvolány jinými.
To začíná kladením správných otázek. My si je zatím neklademe.
Foto Igor Omilajev on Unsplash
Přečtěte si více o budoucnosti vědeckých systémů Přečtěte si více o programu ISC-CAST, který spouští nové školení v oblasti umělé inteligence a výzkumné komunikace pro výzkumníky na začátku a v polovině kariéry. Přečtěte si více o Moderní vědě: geostrategické, technologické a společenské faktory ovlivňující změnu Přečtěte si více o dopadu dat a umělé inteligence na vědeckou produkci 
