AI mění vědu – jak? Kdo by měl obtěžovat? 

Kritický pohled na dopad umělé inteligence (AI) na vědu z různých úhlů pohledu a aktérů – od veřejných financujících až po soukromé high-tech instituce – odhaluje sdílené obavy z nedostatku transparentnosti a spolupráce při vytváření přístupu více zaměřeného na člověka, který by splnit slib vědy jako globálního veřejného statku.

„Otázka už není if AI mění vědu, ale jak,“ otevřel Mathieu Denis slovo na letošním ročníku Digital with Purpose Global Summit s panelové zasedání o dopadech AI o tom, jak se dělá a organizuje věda.

Necelý rok od prvního veřejného vydání ChatGPT 4 explodoval zájem o téma umělé inteligence a také o její aplikaci v celém vědeckém produkčním cyklu. Yamine Ait-Ameur, vedoucí digitálního a matematického oddělení Francouzské národní výzkumné agentury (ANR), vidí tento zájem napříč téměř všemi obory. A přestože agentura nepoužívá nástroje umělé inteligence k hodnocení návrhů na výzkum, je si dobře vědoma toho, že v žádném případě nemůže ve své vědecké práci ukládat podobná omezení používání umělé inteligence.

Zatímco použití umělé inteligence ve vědě vyvolává mnoho otázek a někdy i pochybností, existuje také mnoho vzrušení ohledně jejích slibů. Potenciál tu je, pokud zavedeme vhodné struktury. Ricardo Batista Leite, generální ředitel společnosti I-DAIR pro výzkum AI pro výzkum zdraví, líčí ponaučení z minulosti, kdy převratné technologie aplikované na rozbité systémy způsobily další rozbití. Technologie umělé inteligence mohou přispět k veřejnému blahobytu – pokud je k tomu od začátku speciálně navrhneme.

Současná vlna rozvoje umělé inteligence je však tažena téměř výhradně soukromým sektorem se zdroji, které daleko předčí jakékoli veřejné investice. A stává se nemožným mluvit o společném navrhování zodpovědnější a inkluzivní umělé inteligence, aniž by se překlenuly veřejné a soukromé rozdíly ve výzkumu a vývoji.

Christina Yan Zhang, generální ředitelka Metaverse Institute, je velkým zastáncem spolupráce veřejného a soukromého sektoru ve vědě a technologii. Souhlasí s tím, že lidský blahobyt musí být základem technologického rozvoje. V současném vědeckém systému jsou výzkumníci nuceni sledovat metriky, jako jsou citace časopisů, namísto skutečného dopadu.

Není to jen tak, dodává Yamine Ait-Ameur. Existuje další klíčová výzva pro použití umělé inteligence ve vědě. Nástroje umělé inteligence mohou často produkovat výsledky a výsledky, které jsou lepší než ty lidské. AlphaFold, systém hlubokého učení s umělou inteligencí trénovaný například k předpovídání struktury proteinů, již překonává lidské metody. Jeho výsledky ale nedokážeme spolehlivě replikovat, ověřit a vysvětlit. Dokud nebudeme schopni porozumět procesům probíhajícím v „černých skříňkách“ umělé inteligence, bude použití umělé inteligence ve vědě způsobovat obrovské technické a etické problémy.

Posluchači na panelu sdíleli názor, že velké posuny, které nyní ve vědě vidíme, jsou pouze začátkem: „Je polovina 19. století na počátku průmyslové revoluce. Snažíme se přizpůsobit feudální systém, nebo analyzujeme vznikající období?

Ricardo Batista Leite souhlasí. „V tuto chvíli se ohlédneme zpět a zeptáme se sami sebe, zda jsme udělali správnou věc. Měli jsme příležitost zvrátit vývoj,“ uzavřel.