Mezinárodní vědecká rada a její člen, Čínská asociace pro vědu a technologii (OBSAZENÍ), v partnerství s Příroda, spustili novou šestidílnou podcastovou sérii, která zkoumá vyvíjející se krajinu výzkumných kariér. V rámci série budou výzkumníci na začátku a v polovině své kariéry hovořit se zkušenými vědci a sdílet zkušenosti s růstem, spoluprací a odolností tváří v tvář rychlým změnám.
V této třetí epizodě Mercè Crosas, ředitelka katedry výpočetních sociálních a humanitních věd na Barcelonské superpočítačové centruma Mohammad Hosseini, odborný asistent etiky na Northwestern University, diskutujte o tom, jak umělá inteligence a digitalizace transformují vědecké kariéry a výzkumný proces.
Konverzace zdůrazňuje jak příležitosti, tak i výzvy, které umělá inteligence přináší výzkumníkům na začátku a v polovině kariéry. Nové technologie sice umožňují průlomy a otevírají zcela nové možnosti bádání, ale zároveň vyvolávají obavy ohledně rovnosti přístupu, nadměrného spoléhání se na automatizované nástroje a eroze kritického myšlení.
Izzie Clarke: 00:01
Dobrý den a vítejte. Jsem vědecká novinářka Izzie Clarke a v tomto podcastu, který pořádáme ve spolupráci s Mezinárodní vědeckou radou a s podporou Čínské asociace pro vědu a technologii, budeme diskutovat o síle digitální pomoci a umělé inteligence známé jako AI, jejím významu pro kariéru ve vědě a také o její potenciální hrozbě pro vědecký podnik.
Dnes se ke mně připojuje Mercè Crosas, ředitelka výpočetních sociálních a humanitních věd v Barcelonském superpočítačovém centru a prezidentka Výboru pro data Mezinárodní vědecké rady, známé jako CODATA.
Mercè Crosas: 00:42
Ahoj.
Izzie Clarke: 00:43
A Mohammad Hosseini, odborný asistent etiky na Northwestern University v Chicagu a člen Global Young Academy.
Mohammad Hosseini: 00:51
Ahoj jak se máš?
Izzie Clarke: 00:52
Dobře, děkuji. Myslím, že na úvod bych se vás oba chtěl zeptat, proč je právě teď kritický okamžik k zamyšlení se nad tím, jak digitalizace a umělá inteligence formují vědecké kariéry?
Mohammad Hosseini: 01:05
Myslím, že jsme svědky stále více rozhodování výzkumníků založeného na datech, což se někdy promítá i do celostátního nebo místního rozhodování, což je dobré, ale z hlediska vědecké kariéry to znamená, že musíme výzkumníky školit v nových dovednostech.
A tomu tak vždycky bylo. Ale kvůli bodu zlomu se věci vyvíjejí tak rychle, že je sotva doháníme. Stroje se stávají tak výkonnými, že mohou ve vědě vytlačit nebo nahradit lidskou pracovní sílu. Nyní se nacházíme v jakémsi kritickém okamžiku, kdy je třeba diskutovat o digitalizaci a prozkoumat, kdo z těchto technologií těží, kdo může být pozadu a jak můžeme zajistit transparentnost a rovnost při jejich využívání.
Izzie Clarke 01:54
Mercè, co si o tom myslíš?
Mercè Crosas: 01:56
Jednou z prvních věcí je, že umělá inteligence se ve vědě používá již poměrně dlouhou dobu a tato změna probíhá postupně. Je pravda, že v současné době dochází k exponenciálnímu nárůstu používání umělé inteligence jako metod v mnoha vědeckých oborech.
Takže od prozkoumání literární rešerše přes snahu zjistit výzkumnou otázku, zpracování a sběr dat a následně samotnou analýzu, ale také publikaci vědeckých výsledků. Myslím, že ten zlomový bod, o kterém Mohammad mluvil, má mnohem širší dopad než kdykoli předtím.
Izzie Clarke: 02:34
Je zde třeba zvážit mnoho věcí. Zmínil jste publikování a k tomu se dostaneme za chvíli. Ale co se týče příležitostí, jaké příležitosti z toho podle vás vyplývají pro výzkumníky na začátku a v polovině kariéry a jak to mění vědeckou krajinu řízenou umělou inteligencí?
Mohammad Hosseini: 02:55
Myslím, že příležitosti se většinou týkají nových objevů a věcí, které by před pěti lety byly i snem. V jakékoli oblasti, která by mohla těžit z modelování, se nyní pohybujeme mnohem rychleji. To je příležitost, zejména pro výzkumníky na začátku a v polovině kariéry, kteří mohou být zběhlejší v používání umělé inteligence, ale s sebou to nese určité kompromisy. Hledání příležitostí v této nové dynamice vyžaduje nový druh zvědavosti, ve které nejsme vyškoleni. Myslím si ale, že bychom se měli snažit najít úkoly ve výzkumných kontextech, které nelze automatizovat, a snažit se v takových úkolech vyniknout.
Například v mé oblasti výzkumu se zabývám etickou analýzou. Psaní dobře argumentované práce je již automatizované. Ale mentoring, vedení prezenční výuky, která je zároveň interaktivní a poutavá, nebo vedení rozhovorů za účelem sběru dat a získání nových poznatků z životních zkušeností lidí – to jsou úkoly, které nelze snadno automatizovat. A myslím si, že tyto skupiny úkolů musíme najít v našem vlastním výzkumném kontextu a pokusit se v tom vyniknout.
Izzie Clarke: 04:06
A co Mercè?
Mercè Crosas: 04:07
Nevidím velké riziko, že by vědci, nebo vědci na začátku kariéry, či vědci v polovině kariéry, byli nahrazeni. Co vidím, jsou příležitosti k novým výzkumným otázkám, na které by mnoho vědců z předchozích generací ani nepomyslelo, že? Takže ne, nejde jen o to, že teď můžeme tyto nástroje aplikovat, ale o to, že můžeme o některých oblastech přemýšlet úplně jinak. V biomedicíně, v oblasti klimatických změn, ve fyzice a biologii, tedy v genetice, se to může změnit s využitím umělé inteligence a nových typů dat.
Izzie Clarke: 04:39
Myslím, že vidíme, že existuje mnoho různých způsobů, jak se můžeme obrátit na umělou inteligenci a řešit různé úkoly, a mluvili jsme o rekvalifikaci. Na co si tedy podle vás musí dát pozor výzkumníci na začátku a v polovině kariéry ve vědeckých oborech a kde mohou získat podporu?
Mercè Crosas: 04:57
Je důležitější než kdy jindy být ve vědě velmi důsledný a pochopit, že nakonec, ať už používáme umělou inteligenci nebo jiné nástroje, věda je to, co děláme, a věda je inference a věda musí být veřejná. Metody, data a způsob, jakým to děláme, musí být ověřeny ostatními.
Znamená to, že nástroje umělé inteligence nepoužíváme jen k získávání odpovědí, ale musíme se stát specialisty na to, jak tyto odpovědi ověřujeme. A proto musíme být ještě lépe připraveni na teorii oblastí, ve kterých provádíme výzkum, a na rigoróznost výstupů.
Izzie Clarke: 05:33
Jo, Mohammade, taky by mě zajímal tvůj názor na tohle, protože vím, že je to něco, čemu věnuješ hodně pozornosti.
Mohammad Hosseini: 05:38
Ano, naprosto. A také se chci vrátit k tomu, co zde řekl Mercè. Ano, je důležité přemýšlet o teorii a zároveň existuje mnoho lidí, kteří nyní tvrdí, že kvůli tomuto vzestupu vědy založené na datech jsme svědky konce sociální teorie. Teorie není ve skutečnosti tak důležitá, protože lidé mohou pouze shromažďovat data a provádět data mining, aby zjistili, co je relevantní, aniž by před sběrem dat měli hypotézu.
A myslím si, že je to pozoruhodný vývoj, který vyžaduje hodně pečlivého zvážení a pozornosti. Myslím, že jednou z výzev, kterou chci také zdůraznit, je skutečnost, že máme přístup k různým zdrojům v závislosti na lokalitě. Existují také rozdíly v tom, co instituce poskytují. Mám tu čest sídlit na bohaté soukromé univerzitě v USA, která nabízí bezplatný přístup k různým modelům umělé inteligence, ale to není případ milionů dalších výzkumníků.
A tato nerovnost znevýhodňuje mnoho dalších lidí. Mnoho univerzit ani nemá obecnou politiku pro používání modelů umělé inteligence. Kdybych byl na takové univerzitě, opravdu bych se pokusil promluvit si s vedením univerzity nebo knihovnou a požádat je o poradenství a školení.
Mercè Crosas: 06:54
Abych se zaměřil na nebezpečí přílišného zaměření se na data. Nesouhlasím s tím, že je to cesta, kterou bychom měli jít, že? Výsledkem je průnik mezi teoretickým modelem a tímto přístupem založeným na datech. Ale pokud jde o používání generativní umělé inteligence nebo nových typů nástrojů umělé inteligence, myslím si, že Evropa má dost odlišný přístup než jiná místa.
A nyní probíhá vývoj nové strategie umělé inteligence ve vědě a vědy pro umělou inteligenci. Musíme si dávat pozor na to, jaké nástroje umělé inteligence používáme, zda mají jasnou definici použitých dat, zda jsou open source, zda se zaměřují na důvěryhodnou umělou inteligenci, a to si myslím, že je velmi důležité.
Izzie Clarke: 07:36
Chtěl jsem se také na něco zmínit. Mluvíme o tom, jak využíváme umělou inteligenci v práci a publikování. Takže, Mohammade, na co by si podle tebe měli dát pozor výzkumníci na začátku a v polovině kariéry, pokud jde o publikování a používání umělé inteligence?
Mohammad Hosseini: 07:54
Ano, myslím, že jednou z věcí, na které bychom si měli dát opravdu pozor, je, jaký úkol předáváme umělé inteligenci? Jaký úkol po umělé inteligenci žádáme? Když začal tento boom umělé inteligence, umělá inteligence se používala většinou na konci výzkumného procesu, například při korekturách, zlepšování čitelnosti a tak dále.
Ale teď tyto důležité úkoly přesouváme na umělou inteligenci a příště, až budete chtít přemýšlet o své další výzkumné otázce, místo abyste se hlouběji zamýšleli nad učebnicemi, které čtete, nebo nad novými články, které čtete, si řeknete: „Aha, zeptám se, co k tomu říká umělá inteligence.“ Stává se to velmi návykové a já bych výzkumníky povzbudil, aby si byli vědomi úkolů, které delegují, a zeptali se sami sebe: „Stojí to za to?“
Můj návrh je nepublikovat něco jen tak kvůli publikaci, pokud nemáte co opravdu důležitého na srdci. Zamyslete se nad tím, koho citujete. Pokud používáte umělou inteligenci k vyhledávání literatury, ujistěte se, že si přečtete obsah, který citujete, protože tyto citace jsou mnohokrát irelevantní.
Izzie Clarke: 09:03
A myslím, že to je dobrý postřeh. Ano, existují způsoby, jak můžeme využít umělou inteligenci, které by mohly být v některých bodech užitečné, ale některé z těchto dovedností je třeba udržovat aktivní a ujistit se, že provádíte due diligence i jinými způsoby.
A myslím, že to nás pravděpodobně přivádí k diskusi o důvěryhodnosti. Takže, ve vašem oboru a pro širší veřejnost, co je potřeba k udržení důvěryhodnosti v tomto digitálním věku? Mercè?
Mercè Crosas: 09:30
Myslím, že je to velmi jednoduché. Myslím tím, že jste měli důvěryhodnost, když jste ji dokázali sdělit, když jste tomu plně rozuměli a tomu, na čem pracujete, a nebyla vygenerována něčím jiným, čemu nerozumíte. Zpět k hodnotám vědy a otevřené vědy, že je co nejtransparentnější, že si kdokoli jiný může ověřit, co jste udělali, od toho, jak jste aplikovali model umělé inteligence, metodu, data, která jste použili, pracovní postupy, spravedlivé principy pro dohledatelná, přístupná, interoperabilní a opakovaně použitelná data. Ale také software, aby to, co používáte, bylo sdílené, dohledatelné ostatními a ověřitelné.
Izzie Clarke: 10:06
Existuje však mnoho zajímavých způsobů, jak se to může stát nástrojem pro transformaci vědy a digitalizace. Takže, Mercè, jak vidíte rostoucí roli vědecké komunikace s rozvojem technologií?
Mercè Crosas: 10:20
Takže, co se týče vědecké komunikace, na tom pro společnost musíme ještě hodně pracovat. A již existují očekávání, že umělá inteligence bude hrát roli i v shrnování mnoha vědeckých výstupů a jejich zpřístupňování širšímu publiku. Myslím, že to může být zajímavé.
Izzie Clarke: 10:41
A konečně, co vám oběma dává naději pro budoucnost vědy v tomto digitálním světě? Mohamed?
Mohammad Hosseini: 10:47
Myslím, že naději mi dává nová generace výzkumníků, kteří se ozývají. Sledujeme novou generaci, která se odvažuje říct, co si myslí, a je ochotna za to zaplatit. Jsem v USA a vidím všechny možné velké společnosti a to, jak mohou ovlivnit výzkumnou krajinu, univerzity a tak dále. Je pro mě tedy velmi důležité to vidět.
Izzie Clarke: 11:12
A co Mercè?
Mercè Crosas: 11:15
Myslím si tedy, že máme více nástrojů k pochopení toho, jak pracujeme, jak spolupracujeme, jaké nové otázky si můžeme ve vědě klást. A myslím si, že to dává naději na lepší vědu, pokud neztratíme to, co věda je, a neztratíme tyto hodnoty otevřené vědy, ale také využijeme tento nový typ metod umělé inteligence.
Izzie Clarke: 11:34
Moc vám oběma děkuji, že jste se ke mně přidali.
Pokud jste výzkumník na začátku nebo v polovině své kariéry a chcete se zapojit do diskuse o budoucnosti umělé inteligence, připojte se k Fóru Mezinárodní vědecké rady pro začínající vědce.
Navštivte: rada.věda/fórum se dozvědět více.
Jsem Izzie Clarke a příště budeme diskutovat o tom, jak mohou výzkumníci na začátku a v polovině své kariéry pomoci chránit náš oceán a o síle transdisciplinárního přístupu. Do té doby.
Přečtěte si více o Věda bez hranic: Mezinárodní spolupráce pro příští generaci výzkumníků 
Přečtěte si více o tématu Přehodnocení růstu a odolnosti ve výzkumném ekosystému 
Přečtěte si více o transdisciplinární vědě: Raná a střední fáze kariéry formující budoucnost vědy 