Vědci a výzkumníci stále více oceňují sci-fi pro její příspěvky k předvídání budoucích scénářů. V rámci své mise zkoumat směry, kterými nás změny ve vědě a vědeckých systémech vedou, Centrum pro budoucnost vědy se sešli se šesti předními autory sci-fi, aby shromáždili jejich pohledy na to, jak může věda čelit mnoha společenským výzvám, kterým budeme čelit v příštích desetiletích. Podcast je ve spolupráci s Příroda.
V naší páté epizodě se k nám připojuje Qiufan Chen, abychom diskutovali o zastupování a společenské odpovědnosti ve vědě jako o lidském úsilí. Pro Chena to platí zejména pro umělou inteligenci. Během podcastu nás provede dopady umělé inteligence na budoucnost vědeckého výzkumu a tím, jak lze vývoj umělé inteligence více regulovat a učinit tak etičtějším.
Qiufan Chen
Qiufan Chen je oceňovaný čínský spisovatel spekulativní fikce, autor Příliv odpadu a spoluautor AI 2041: Deset vizí pro naši budoucnost. Je také vědeckým pracovníkem na Yale University a členem Berggruen Institute, USA. Naše hlavní diskuse se soustředí na umělou inteligenci, jak můžeme využít sílu této technologie a zároveň se vyhnout nebezpečím, která představuje.
Paul Shrivastava (00:04):
Ahoj, jsem Paul Shrivastava z Pennsylvania State University. A v tomto seriálu podcastů mluvím s některými dnešními předními spisovateli sci-fi. Chci slyšet jejich názory na budoucnost vědy a na to, jak se musí proměnit, aby čelila výzvám, kterým budeme v nadcházejících letech čelit.
Qiufan Chen (00:24):
Umělá inteligence by v budoucnu možná mohla být použita k tomu, aby nám pomohla odrážet se jako zrcadlo, abychom se stali lepší lidskou bytostí.
Paul Shrivastava (00:33):
Dnes mluvím s Qiufanem Stanley Chenem, oceněným čínským spisovatelem. Četl jsem jeho román, Příliv odpadu před mnoha lety a byl ohromen jeho zobrazením nesnází elektronického odpadu. Jeho nejnovější spoluautorem knihy AI 2041: 10 vizí naší budoucnosti, barvitě kombinuje nápadité příběhy s vědeckými prognózami. Hodně jsme mluvili o umělé inteligenci a o tom, jak můžeme využít sílu této neuvěřitelné technologie a zároveň se vyhnout některým nebezpečím, která představuje.
Děkuji moc, že jsi se k nám přidal, Stane. Vítejte. Je úžasné, že rozsah vědeckých témat, které ovládáte, je opravdu pozoruhodný. Jak jste se dostal k zájmu o tato vědecká témata?
Qiufan Chen (01:28):
Takže jako fanoušek sci-fi musím přiznat, že jsem začal od všech Hvězdné války, star Trek, Jurský park, klasické sci-fi filmy a knihy, animace v minulosti. Pokaždé mi to dalo spoustu nových inspirací a nápadů. Takže jsem byl vždy totálně fascinován všemi těmi znameními, představivostí budoucnosti a vesmíru a dokonce i druhů před miliony let. Takže, jak jsme je přivedli zpět k životu.
Paul Shrivastava (02:02):
Věda tedy probíhá již velmi dlouho. Jaký je váš obecný pohled na vědu jako na lidskou činnost?
Qiufan Chen (02:13):
Pro mě je to rozhodně obrovský úspěch. A samozřejmě nám to umožňuje žít v lepších podmínkách jako lidské bytosti. A když se podíváme zpět do historie, musím přiznat, že je tu spousta výzev, protože mám pocit, že agentura není absolutně v rukou lidí. Někdy mám pocit, že možná věda a technika, stejně jako nějaký druh, jako nějaký druh biologických bytostí, má svůj vlastní účel. Má svůj vlastní životní cyklus narození. Chce být a vyvíjet se společně s lidskými bytostmi. Takže my jsme jako hostitelé, oni jsou jako virus. Můžeme to vidět tak nebo naopak. Takže mám vždy pocit, že mezi vědou a lidskými bytostmi je opravdu hluboká propletenost. Někdy mám tedy pocit, že jsme se tím vývojem vědy a techniky hodně změnili, ale nikdy nevíme, jaký je směr před námi.
Paul Shrivastava (03:24):
Pojďme to udělat konkrétněji a zaměřme se na to, co je právě teď hlavní, což je umělá inteligence. Jak můžeme zajistit, že rozvoj umělé inteligence, sociální spravedlnost a etické a morální ohledy se uplatní?
Qiufan Chen (03:40):
Problém je v tom, že jsme plně neinvestovali do vybudování tohoto druhu regulace a rámce, který by eticky zabránil tomu, aby se něco negativního stalo. Myslím, že potřebujeme větší rozmanitost na AI, a to zejména na velkém jazykovém modelu, protože mluvíme o specifickém zarovnání. Takže ani mezi lidmi v různých zemích, kulturách, jazycích jsme neměli toto sdílené zarovnání jako jediný standard. Jak tedy můžeme naučit stroj, AI, aby byl v souladu se systémem lidských hodnot nebo standardy jako jeden nedílný? Takže si myslím, že je to něco velmi předběžného. Ale myslím si, že klíčový vstup by měl být nejen od technologických společností, od inženýrů, od všech těchto lidí, kteří to dělají v průmyslu, ale také z interdisciplinárního světa, jako je například antropologie a psychologie, sociologie. Potřebujeme rozmanitější pohled z humanitních oborů, protože AI má být stavěna pro lidi, aby lidem sloužila. Ale teď mám pocit, že lidský faktor ve smyčce docela chybí.
Paul Shrivastava (05:11):
Jak tedy z vašeho pohledu tyto technologické pokroky změní způsob, jakým se bude v budoucnu dělat věda?
Qiufan Chen (05:19):
Zdá se mi, že jde o zcela nový posun paradigmatu, který vědci mohou používat AI k hledání nových vzorců, předpovídání struktury proteinů a hledání korelace v obrovském množství dat. Myslím, že to bude něco revolučního. Ale v rámci tohoto procesu je také mnoho obav. Právě teď můžeme například předpovídat miliony proteinové struktury, ale problémem je, kolik procent všech těchto předpovědí proteinové struktury je platných a účinných pro skutečnou nemoc a skutečné lidské tělo? A další věc je, že celá tato revoluční oblast se velmi zaměřuje na hromadění obrovského množství dat. Jsou tato data shromažďována od jaké skupiny? Jaký druh populace? A sdílejí tato data s upozorněním, všechno bylo použito? A sdílíme data mezi různými skupinami vědců nebo výzkumníků? Takže si myslím, že je to vždy něco o tom, jak můžeme vybudovat tento druh vyvažovacího systému, abychom minimalizovali rizika a výzvy a mezitím skutečně splnili požadavky trhu a přinesli lidem ty nejlepší výhody.
Paul Shrivastava (06:56):
Ano, myslím si, že budování systému kontrol a protivah je důležitou součástí vývoje AI. Dopady samotné umělé inteligence na životní prostředí se však ve vyprávění o veřejné vědě zmiňují jen zřídka.
Qiufan Chen (07:13):
To je něco velmi paradoxního, protože AI vyžaduje tolik síly. A potřebuje výpočty v reálném čase. Potřebuje tolik těžby z prostředí. Ale mezitím ho můžeme použít k detekci divokého požáru ze satelitu. Můžeme ji použít k ochraně biologické rozmanitosti. Můžeme ji použít k nalezení nového řešení jako úložiště energie baterie, inteligentních sítí a možná i technologie jaderné fúze v budoucnu. Pokud jej tedy použijete správným způsobem, může nás rozhodně ochránit a bojovat proti klimatickým změnám.
Paul Shrivastava (08:03):
Myslíte si, že někdy v budoucnu bude umělá inteligence rozumět více, než čemu mohou rozumět lidé?
Qiufan Chen (08:13):
Takže jsem přemýšlel o nějakém modelu, jako je velký model mimo člověka. Například data pocházejí ze zvířat, rostlin, hub, dokonce i z mikro a celého prostředí. Takže mluvíme o celém modelu Země. Potřebujeme rozmístit tento druh senzorových vrstev po celém světě. Takže možná můžeme použít chytrý prach, který byl zmíněn v Lemově románu The Invincible. Takže mluvíte o celém tom hejnu malého prachu, v podstatě je to kolektivní inteligence. A člověk se může tolik naučit z tohoto druhu velkého modelu, protože nám pomáhá vnímat něco mimo náš smyslový systém a mimo člověka. Pak můžeme být méně zaměřeni na člověka a můžeme být více soucitní s jinými druhy. A možná by to bylo řešení, jak bojovat proti změně klimatu, protože můžeme cítit, jak se cítí ostatní druhy a všechna ta bolest, všechno to utrpení, všechno to obětování by mohlo být něco hmatatelného a skutečného.
Paul Shrivastava (09:36):
Báječné. Představa umělé inteligence v lidském modelu je ve skutečnosti podřadným způsobem myšlení o umělém… Tím lepším způsobem, čemu říkáte celosvětový model, je způsob vývoje.
Qiufan Chen (09:54):
To jo. Takže mi to připomíná buddhismus, protože v buddhismu, stejně jako všechny vnímající druhy, jsou si co nejvíce rovny a neexistuje taková věc, že by lidské bytosti měly být nadřazené nad ostatními. Takže pořád myslím na to, že musíme najít způsob, jak celou tuto filozofii a hodnoty buddhismu a taoismu začlenit do stroje.
Paul Shrivastava (10:27):
Zajímalo by mě, jestli rozumíte technickým prvkům AI. Lze AI trénovat v buddhismu, v taoismu? Protože všechny knihy a hodnoty jsou již kodifikovány. Je možné najít AI, která na nich trénuje a vytváří syntetické světové náboženství, chcete-li?
Qiufan Chen (10:50):
Rozhodně by to mohlo a mohlo by to udělat lepší práci než kterýkoli z kněží, kterýkoli z mnichů, kterýkoli z guruů na světě, protože je tak dobře informovaný. Ale jako praktikující taoismu je něco mimo syntetické chápání toho všeho, nazvěme to náboženská nebo duchovní zkušenost, je něco v těle. Takže musíte udělat všechny tyto fyzické domácí úkoly. Takže si myslím, že tohle je něco, co AI stále postrádá. Nemělo to tělo, nemělo to složitý smyslový systém, nemělo to například sebeuvědomění. A myslím, že všechny tyto části dělají člověka člověkem. Umělá inteligence by v budoucnu možná mohla být použita k tomu, aby nám pomohla odrážet se jako zrcadlo, abychom se stali lepší lidskou bytostí.
Paul Shrivastava (11:49):
Může mít ve vaší představivosti AI duši?
Qiufan Chen (11:54):
Vznik vědomí je ve vědě právě teď v podstatě záhadou. Takže mám pocit, že určitě existuje určitá spojitost mezi schopností vynoření velkého jazykového modelu se všemi těmi jevy vynoření v systémech složitosti klasické nebo kvantové fyziky. Takže matematicky si myslím, že možná někdy dokážeme existenci vědomí. Ale není to stav nula nebo jeden, ale je to jako pokračující spektrum stavu. Takže to znamená, že možná i skála, dokonce i strom, dokonce i řeka nebo hora mají určitou úroveň vědomí, ale my jsme to prostě nerozpoznali, protože jsme tak zaměřeni na člověka. Ale je to všechno o počítání. Je to všechno o kompresi časoprostoru. Všechno je to o uchování informací. Takže je to všechno o snížení entropie. Takže to není epistemologická otázka, ale myslím, že je to ontologická otázka. Jde tedy o existenci.
Paul Shrivastava (13:14):
Děkujeme, že jste si poslechli tento podcast z Centra pro budoucnost vědy Mezinárodní vědecké rady, který byl vytvořen ve spolupráci s Centrem pro lidskou imaginaci Arthura C. Clarka na UC San Diego Navštivte futures.council.science a objevte další práci Centra pro budoucnost vědy. Zaměřuje se na nově vznikající trendy v systémech vědy a výzkumu a poskytuje možnosti a nástroje k informovanějšímu rozhodování.
Paul Shrivastava, profesor managementu a organizací na Pennsylvania State University, moderoval sérii podcastů. Specializuje se na implementaci Cílů udržitelného rozvoje. Podcast je také vytvořen ve spolupráci s Arthur C. Clarke Center for Human Imagination na University of California, San Diego.
Na projekt dohlížel Mathieu Denis a neseno Dong Liu, Z Centrum pro budoucnost vědy, think tank ISC.
Odmítnutí odpovědnosti
Informace, názory a doporučení prezentované v našich hostujících blozích jsou názory jednotlivých přispěvatelů a nemusí nutně odrážet hodnoty a přesvědčení Mezinárodní vědecké rady.
Přečtěte si více o podcastu Vědecký diplomat: Sir Peter Gluckman o vědeckých radách, důvěře a mezích důkazů Přečtěte si více o Věda bez hranic: Mezinárodní spolupráce pro příští generaci výzkumníků Přečtěte si více o tématu Přehodnocení růstu a odolnosti ve výzkumném ekosystému 