Vědci a výzkumníci stále více oceňují sci-fi pro její příspěvky k předvídání budoucích scénářů. V rámci své mise zkoumat směry, kterými nás změny ve vědě a vědeckých systémech vedou, Centrum pro budoucnost vědy se sešli se šesti předními autory sci-fi, aby shromáždili jejich pohledy na to, jak může věda čelit mnoha společenským výzvám, kterým budeme čelit v příštích desetiletích. Podcast je ve spolupráci s Příroda.
V naší šesté a poslední epizodě se k nám Cory Doctorow připojuje, abychom diskutovali o otázce důvěry ve vědu a o tom, co můžeme udělat pro její posílení. Zabývá se problematikou umělé inteligence, algoritmy a tréninkovými modely. Doctorow chce vidět, jak lze koordinační sílu digitální technologie využít k udržitelnější budoucnosti.
Cory Doctorow
Je autorem mnoha knih, naposledy Ztracená věc, solarpunkový sci-fi román naděje uprostřed klimatické nouze a Internet Con: Jak využít výpočetní prostředky a Červený tým Blues. V roce 2020 byl uveden do kanadské síně slávy sci-fi a fantasy. Narodil se v Torontu, nyní žije v Los Angeles.
Paul Shrivastava (00:03):
Ahoj, jsem Paul Shrivastava z Pennsylvania State University. V této sérii podcastů mluvím s některými z předních světových spisovatelů sci-fi. Chci od nich slyšet, jak nám věda může pomoci vypořádat se s mnohastrannými výzvami, které nás čekají. Živí se totiž přemýšlením o budoucnosti a o tom, jak by mohla nebo měla být.
V této epizodě mluvím s Corym Doctorowem, spisovatelem sci-fi, novinářem a technologickým aktivistou. Za poslední dvě desetiletí publikoval mnoho prací o technologických monopolech a digitálním dohledu. Náš rozhovor se dotkl správy digitálních práv a sociální spravedlnosti a udržitelnosti v digitálním světě. Doufám, že se vám bude líbit.
Vítejte, Cory, a děkujeme, že jste součástí tohoto podcastu. Můžete nám začít tím, že nám povíte trochu více o svém vztahu k vědě, obecně ak psaní sci-fi?
Cory Doctorow (01:05):
No, vyrostl jsem za extrémně šťastných okolností pro někoho, kdo se zajímá o sci-fi. Vyrostl jsem konkrétně v Torontu v 1980. letech. A byla tam žena, která byla v oboru pořádná smršť, žena jménem Judith Merrilová, skvělá spisovatelka, redaktorka a kritička. Byla nestorem britské nové vlny sci-fi. A tak by Judy dovolila komukoli, aby stáhl jejich příběhy a prodiskutoval je s ní, kritizovala by je. Takže tohle bylo jako... Nevím. Je to jako získat pomoc s domácím úkolem z fyziky od Einsteina. A pak začala tyto spisovatelské dílny, kde nadějné spisovatele, kteří k ní přicházeli, sdružovala do týdenních setkání. A tak jsem byl v jednom z nich mnoho let a měl jsem jen tak blízko k formálnímu vyučení ve sci-fi, jak jen to bylo možné.
Z hlediska vědy, víte, jsem diletant. Nejblíže k vědě mám čestný titul z informatiky na Open University, kde jsem hostujícím profesorem CS. A zejména mám skvělý politický vztah s informatikou, protože již více než 20 let pracuji v oblasti, kterou bychom mohli obecně nazvat digitálními lidskými právy, související s přístupem k informacím, cenzurou, soukromím a spravedlností. online.
Paul Shrivastava (02:17):
Pojďme se tedy do některých z těchto problémů ponořit trochu hlouběji. Zabývali jste se řadou těchto témat souvisejících s technologickým pokrokem a na čí zájmy a prospěch pracují. Mluvil jste o sledovací technologii Malý bratr, autorské zákony v Pirátské kino, na kryptoměnu v Červený tým Blues. Příběhy velmi často zobrazují negativní důsledky nekontrolovaného technologického růstu nebo technologického růstu ve službách kapitalismu, chcete-li. Jak tedy vnímáte roli vědy v této stále více digitální krajině, do níž vstupujeme?
Cory Doctorow (02:57):
Myslím, že bez spravedlnosti nemůžete mít vědu. V tom smyslu, že to, co odlišuje vědu od forem vytváření znalostí, které předcházejí osvícení, je přístup, který je předpokladem pro kontradiktorní peer review. A tak pomineme-li morální závazek – o kterém si myslím, že můžeme říci, že všichni máme vůči sobě morální povinnosti –, myslím si, že existuje jen instrumentální případ pro tvrzení, že pokud ostatní lidé nemají dovoleno kontrolovat vaše data a vaše metody, a pokusit se replikovat svou práci a svobodně vás kritizovat, pak neděláte vědu. Alchymisté udělali věc, která vypadala hodně jako věda, že? Pozorovali svět, formulovali hypotézu, navrhli experiment, provedli experiment a pak všichni zemřeli na pití rtuti. Protože se ukázalo, že si můžete dělat legraci, že experiment byl úspěšný až do té míry, že vás otrava rtutí zabije.
Cory Doctorow (04:05):
A rozdíl mezi alchymií a vědou není v tom, že vědci, kteří přišli poté, byli chytřejší nebo méně náchylní k sebeklamu. Jde o to, že podléhaly přísným podmínkám vzájemného hodnocení, které jako předpoklad vyžaduje zveřejnění a přístup. A myslím si, že když máte koncentraci moci v komerčním sektoru, což znamená monopol, je pro regulátory velmi těžké zůstat nezávislými. Tyto firmy se stanou příliš velkými na to, aby zkrachovaly, a příliš velké na to, aby je bylo možné uvěznit. Pak vlastně vytváříte podmínky pro lidi, kteří vědu popírají, což má katastrofální následky pro ně samotné, ale i pro nás všechny.
Paul Shrivastava (04:39):
No souhlasím s tebou, že je to potřeba. Myslím, že zachycení, o kterém mluvíte silami korporací a vlád, které jsou dvěma primárními zdroji financování vědy, je úplné. A nyní se díváme na umělou inteligenci jako na všudypřítomné vědecké úsilí, které všechno změní. Jaký druh politických doporučení byste mohli navrhnout pro celou tuto arénu?
Cory Doctorow (05:09):
No, rád bych začal tím, že jako první člověk, který zmínil AI, dlužíte všem ostatním v tomto hovoru drink. To je nyní u AI pravidlem. Dovolte mi začít upozorněním, které spočívá v tom, že nejsem přesvědčen, že umělá inteligence je to, co říkáte, je toto všudypřítomné vědecké úsilí, které všechno změní, a to z mnoha důvodů. Jsem skeptický, že bez pečlivého dohledu bude umělá inteligence schopna produkovat spolehlivé... věci, které jsou dostatečně spolehlivé pro použití v prostředích s vysokými sázkami. A pokud supervize vyžaduje stejnou míru pečlivosti, jakou jsme měli dříve, pak nevím, zda pro to existuje důvod. Myslím, že pokud jsme opatrní, pokud jde o naši regulaci, a řekneme: „Podívejte, pokud AI může halucinovat a pokud halucinace vede ke smrtelným následkům, může být AI pod dohledem pouze v jakémsi poměru jedna ku- jeden." Pokud samořídící auto jede bezpečně 90 % času a 10 % času zrychluje do protijedoucího provozu, pak počet řidičů-dozorců, které potřebujete pro každé samořídící auto, je jeden, což znamená, že ne. dostat vyhodit jednoho řidiče. Takže teď máte právě dražší auto.
Cory Doctorow (06:14):
A myslím si, že jakákoli bublina, která závisí na dalším přitahování investičního kapitálu, který se většinou zapálí dříve, než dojde k nějakému výnosu, musí být opravdu hodně humbuk. A ten humbuk kolem sebe vidíme v obrovské míře. Místo toho, abyste si dělali starosti se skutečnými zjevnými obavami o AI, což je algoritmus podpory rozhodování, který vám odepře hypotéku kvůli vaší rase, nebo který pošle vaše dítě do ochranných služeb kvůli vašemu ekonomickému postavení, nebo který vám odepře kauci nebo vstup do zemi, se zaměřujeme na – upřímně řečeno, z mé profesionální kapacity – špatné sci-fi o automatickém doplňování na steroidech, probouzení a proměně nás všech ve sponky. To ponechává stranou skutečné materiální věci, které se dějí s AI.
Paul Shrivastava (07:08):
Jaká je tedy role vědeckých komunikátorů při prasknutí této bubliny, humbuku, který se kolem AI vytvořil? Myslím tím, že obecný příběh tam venku je, že to všechno změní. A co jsem od vás slyšel, že za tím stojí nějaké skutečné základní problémy.
Cory Doctorow (07:26):
Myslím, že v hlavní linii vědecké komunikace o AI jsou určité mezery, které by byly plodně vyplněny. Takže jsem nikdy neslyšel populárně vědecký program popisovat potenciální limity federovaného učení. Např. Co se stane, když vypneme velké servery? Co když investoři prostě půjdou dál? Jak vypadá umělá inteligence, pokud nikdy netrénujeme další hlavní model a vše, co děláme, je ladění stávajících modelů, které mohou běžet na komoditním hardwaru? A pak taxonomie aplikací, které nejsou citlivé na běžně chápané problémy s AI, tedy ty low stakes nebo ty odolné aplikace. Co jsou to za aplikace? Když vezmeme všechny aplikace, u kterých potřebujete individuální dohled, které to jsou? A vyjmeme je, a co pak zbyde?
Paul Shrivastava (08:15):
Přejděme k povídání o období antropocénu. Procesy, které podporují život, se nyní mění, ne-li přímo kolabují. Jak můžeme využít pokrok v digitálním světě, který jste pokryli mnoha různými způsoby, ke zmírnění dopadu člověka na životní prostředí a zajištění udržitelné budoucnosti?
Cory Doctorow (08:38):
Můj nejnovější román je román o tomhle, říká se tomu Ztracená věc. A věc, která se v tomto románu stala, není a deus ex. Nepřišli jsme na to, jak zachycovat uhlík tempem, které by se vymykalo všemu současnému stavu techniky. Ale to, co jsme udělali, je, že jsme to vzali vážně. Tady jsme, víte, uvězněni v tomto autobuse a řítíme se směrem k útesu. A lidé v prvních řadách a v první třídě pořád říkají, že tu není žádný útes. A pokud je tam útes, budeme jen zrychlovat, dokud ho nepřekročíme. A jedna věc, kterou víme jistě, je, že nemůžeme uhnout. Kdybychom uhnuli, autobus by se mohl převrátit a někdo by si mohl zlomit ruku, a nikdo nechce zlomenou ruku. A tohle je kniha, kde se lidé chopí volantu a uhýbají. Tam, kde se miliony lidí zabývají velmi vážnými dlouhodobými projekty, jako je přemístění každého pobřežního města několik kilometrů do vnitrozemí.
Cory Doctorow (09:32):
A ta klimatická adaptace, když se nad tím zamyslíte, je docela závratná. Může to být trochu demoralizující myslet si, no, myslím, že veškerá náhradní práce, kterou má každý na příštích 300 let, půjde na nápravu těchto hloupých chyb, které jsme udělali předtím. A tak toto je kniha, která je o tom projektu. A jde o pokračování tohoto projektu na základě postřehů mé drahé přítelkyně, která nedávno napsala velmi dobrou knihu, Debbie Chachra, jejíž kniha se jmenuje Jak funguje infrastruktura. A Deb je materiální vědkyně a poukazuje na to, že energie je ve skutečnosti nekonečně hojná, ale materiálů je velmi vzácné. A přesto jsme po většinu lidské historie zacházeli s materiály jako s hojnými, jednou jsme je použili a vyhodili je. A s energií jsme zacházeli jako s nedostatkem. A v této knize je latentní technická reorientace, kterou Deb velmi jasně uvádí ve své knize, ve které děláme věci, jako je použití více energie k výrobě věcí, aby se snáze rozložily zpět do materiálního proudu.
Paul Shrivastava (10:38):
Zdá se, že jsme zaneprázdněni konzumací planety bezprecedentním tempem. A může sci-fi nějakým způsobem pomoci lidem přeformulovat jejich pohled na svět tak, aby byl více kompatibilní s tím, co se tady děje – s našimi výzvami na této planetě?
Cory Doctorow (10:54):
No, a to je něco, o čem píšu od svého románu Jít pryč, v roce 2017. Tato myšlenka, že hojnost vzniká přístupem k materiálu, ale také sociální konstrukcí toho, co chceme. A nakonec efektivita distribuce zboží. Jsem tedy majitel domu, a to znamená, že třikrát do roka potřebuji udělat díru do zdi. A tak vlastním vrtačku a vtipně ji nazývám minimální životaschopnou vrtačkou. Je to vrták, který je ekonomicky racionální pro někoho, kdo dělá tři díry ročně, aby je mohl vlastnit. A musím se vzdát, třeba celé zásuvky, abych skladoval tuhle příšernou vrtačku. A uvědomíte si, že platíte obrovskou daň, a to jak v ráži zboží, které máte, tak v dostupnosti místa ve vaší domácnosti, abyste si zachovali přístup k věcem, které jen zřídka potřebujete. Existuje další druh cvičení, někdy tomu říkám cvičení v knihovnickém socialismu, kde je ve vašem sousedství stochastický mrak cvičení, které vědí, kde jsou, a které udržují telemetrii o jejich použití ke zlepšení budoucí výroby. Snadno se rozkládají zpět do materiálního proudu. A kdykoli ji potřebujete, můžete na vrtačku položit ruku a je to ta největší vrtačka, jaká kdy byla vyrobena.
Cory Doctorow (12:08):
Vynásobte to sekačkami na trávu a dalšími talíři, které si schováváte na Vánoce nebo večírky, a všemi ostatními věcmi, které máte doma a které neustále nepotřebujete. A to je svět obrovské hojnosti. To je větší luxus. A když zkombinujete tyto tři věci, efektivitu využití materiálu a energie, koordinační povahu technologie a inženýrství naší touhy, existuje budoucnost, ve které žijeme s mnohem menší materiální a energetickou stopou a máme mnohem větší luxusní život. Život obrovské hojnosti.
Paul Shrivastava (12:42):
K této nadějné zprávě vám položím poslední otázku. A to znamená, že kdyby existovala jedna lekce, kterou by se věda měla naučit ze sci-fi, co by to bylo ve vaší mysli?
Cory Doctorow (12:56):
Řekl bych, že nejdůležitější věcí, kterou sci-fi dělá, pokud jde o vědu, je zpochybňování sociálních vztahů technologie a vědeckých objevů a vědeckých poznatků. Nejdůležitější otázkou o technologii je zřídka, co to dělá? Ale spíše, pro koho to dělá a komu to dělá? A tato technologie pod demokratickou kontrolou se velmi liší od technologie, která je vnucována lidem.
Myšlenka, že technologie navržená s pokorou, abyste pochopili, že nemůžete předvídat okolnosti, za kterých bude tato technologie použita – a necháváte tak prostor samotným uživatelům, aby si ji přizpůsobili – je ta nejlepší ze všech technických světů. A každý jazyk má pro to své jméno. Dalo by se tomu říkat bodge, což je někdy trochu pejorativní. Ale myslím, že všichni máme rádi dobré tělo. Ve francouzštině je to bricolage. V hindštině je to jugaad.
Paul Shrivastava (14:00):
Jugaad!
Cory Doctorow (14:02):
Každý jazyk má pro to slovo a my to milujeme. A jen díky pokoře předvídat nepředvídatelné jsme důstojnými předky našich intelektuálních potomků, kteří přijdou po nás.
Paul Shrivastava (14:22):
Děkujeme, že jste si poslechli tento podcast z Centra pro budoucnost vědy Mezinárodní vědecké rady, který byl vytvořen ve spolupráci s Centrem pro lidskou imaginaci Arthura C. Clarka na UC San Diego Navštivte futures.council.science a objevte další práci Centra pro budoucnost vědy. Zaměřuje se na nově vznikající trendy v systémech vědy a výzkumu a poskytuje možnosti a nástroje k informovanějšímu rozhodování.
Paul Shrivastava, profesor managementu a organizací na Pennsylvania State University, moderoval sérii podcastů. Specializuje se na implementaci Cílů udržitelného rozvoje. Podcast je také vytvořen ve spolupráci s Arthur C. Clarke Center for Human Imagination na University of California, San Diego.
Na projekt dohlížel Mathieu Denis a neseno Dong Liu, Z Centrum pro budoucnost vědy, think tank ISC.
Foto z Elimende Inagellová on Unsplash.
Odmítnutí odpovědnosti
Informace, názory a doporučení prezentované v našich hostujících blozích jsou názory jednotlivých přispěvatelů a nemusí nutně odrážet hodnoty a přesvědčení Mezinárodní vědecké rady.
Přečtěte si více o podcastu Vědecký diplomat: Sir Peter Gluckman o vědeckých radách, důvěře a mezích důkazů Přečtěte si více o Věda bez hranic: Mezinárodní spolupráce pro příští generaci výzkumníků Přečtěte si více o tématu Přehodnocení růstu a odolnosti ve výzkumném ekosystému 