Rámec pro hodnocení rychle se rozvíjejících digitálních a souvisejících technologií: AI, velké jazykové modely a další

• Úvod 
• Pozadí 
• Vývoj analytického rámce 
• Použití analytického rámce 
• Rozměry, které je třeba vzít v úvahu při hodnocení nové technologie 
• Cesta vpřed 
• Poděkování

Rychle se objevující technologie představují náročné problémy, pokud jde o jejich správu a potenciální regulaci. Politika a veřejné debaty o umělé inteligenci (AI) a jejím využití přivedly tyto problémy do akutního zájmu. Zatímco široké principy pro AI byly vyhlášeny UNESCO, OECD a dalšími a probíhají diskuse o globální nebo jurisdikční regulaci technologie, existuje ontologická mezera mezi vývojem principů na vysoké úrovni a jejich začleněním do regulačních, řízení a správcovství. Zde by nevládní vědecká komunita mohla hrát zvláštní roli. 

Řada akademiků a politických expertů navrhla, aby Mezinárodní vědecká rada (ISC) – se svým pluralitním členstvím v sociálních a přírodních vědách – zavedla proces tvorby a udržování anotovaného rámce/kontrolního seznamu rizik, přínosů, hrozby a příležitosti spojené s rychle se vyvíjejícími digitálními technologiemi, mimo jiné včetně AI. Účelem kontrolního seznamu by bylo informovat všechny zúčastněné strany – včetně vlád, obchodních vyjednavačů, regulačních orgánů, občanské společnosti a průmyslu – o potenciálních budoucích scénářích a zarámovat, jak by mohli zvážit příležitosti, přínosy, rizika a další otázky. 

Výstupy by nefungovaly jako hodnotící orgán, ale jako adaptivní a vyvíjející se analytický rámec, který by mohl podpořit jakékoli procesy hodnocení a regulace, které by mohly být vyvinuty zúčastněnými stranami, včetně vlád a multilaterálního systému. Jakýkoli analytický rámec by měl být v ideálním případě vytvořen nezávisle na vládních a průmyslových nárocích, s ohledem na jejich pochopitelné zájmy. Musí být také maximálně pluralitní ve svých perspektivách, a tak zahrnovat všechny aspekty technologie a její důsledky. 

Tento diskusní dokument poskytuje nástin počátečního rámce pro informování mnoha globálních a národních diskusí týkajících se umělé inteligence. 

Rychlý nástup technologie se složitostí a důsledky umělé inteligence vede k mnoha tvrzením o velkých výhodách. Vyvolává však také obavy z významných rizik, od individuální až po geostrategickou úroveň. Velká část diskusí se odehrává na extrémních koncích spektra názorů a je zapotřebí pragmatičtějšího přístupu. Technologie AI se bude nadále vyvíjet a historie ukazuje, že prakticky každá technologie má jak prospěšné, tak škodlivé využití. Otázka tedy zní: jak můžeme dosáhnout prospěšných výsledků této technologie a zároveň snížit riziko škodlivých důsledků, z nichž některé by mohly být existenčního rozsahu? 

Budoucnost je vždy nejistá, ale existuje dostatek důvěryhodných a odborných hlasů týkajících se umělé inteligence a generativní umělé inteligence, které podporují relativně preventivní přístup. Kromě toho je zapotřebí systémový přístup, protože umělá inteligence je třída technologií s širokým využitím a uplatněním mnoha typů uživatelů. To znamená, že při zvažování důsledků umělé inteligence pro jednotlivce, společenský život, občanský život, společenský život a v globálním kontextu je třeba vzít v úvahu celý kontext. 

Na rozdíl od většiny minulých technologií mají digitální a související technologie velmi krátkou dobu od vývoje po vydání, což je do značné míry řízeno zájmy produkčních společností nebo agentur. AI je rychle všudypřítomná; některé vlastnosti se mohou projevit až po vydání a technologie by mohla mít jak zlovolné, tak benevolentní aplikace. Dimenze důležitých hodnot ovlivní, jak bude jakékoli použití vnímáno. Kromě toho mohou být ve hře geostrategické zájmy. 

Na regulaci virtuální technologie se dosud pohlíželo převážně optikou „zásad“ a dobrovolného dodržování. V poslední době se však diskuse stočila k otázkám národního a mnohostranného vládnutí, včetně použití regulačních a jiných politických nástrojů. Nároky vznesené ve prospěch nebo proti AI jsou často hyperbolické a – vzhledem k povaze technologie – obtížně posouditelné. Zavedení účinného globálního nebo národního systému regulace technologií bude náročné a bude zapotřebí více vrstev rozhodování na základě rizik v celém řetězci, od vynálezce přes výrobce, uživatele, vládu a multilaterální systém. 

Zatímco principy na vysoké úrovni byly vyhlášeny mimo jiné UNESCO, OECD a Evropskou komisí a probíhají různé diskuse na vysoké úrovni o otázkách potenciální regulace, existuje velká ontologická propast mezi těmito principy a rámcem správy nebo regulace. Jaká je taxonomie úvah, které by měl regulátor zvážit? Úzce zaměřené rámování by nebylo moudré, vzhledem k širokým důsledkům těchto technologií. Tento potenciál byl předmětem mnoha komentářů, pozitivních i negativních.

ISC je primární globální nevládní organizace integrující přírodní a společenské vědy. Jeho globální a disciplinární dosah znamená, že má dobrou pozici pro vytváření nezávislých a globálně relevantních rad, které informují o složitých rozhodnutích, která jsou před námi, zejména proto, že současné hlasy v této aréně jsou převážně z průmyslu nebo z hlavních technologických velmocí. Po rozsáhlé diskusi v posledních měsících, včetně zvážení nevládního procesu hodnocení, ISC dospěl k závěru, že jeho nejužitečnějším přínosem by bylo vytvořit a udržovat adaptivní analytický rámec, který lze použít jako základ pro diskurz a rozhodování ze strany všechny zúčastněné strany, a to i během jakéhokoli formálního procesu hodnocení, který se objeví. 

Tento rámec by měl podobu zastřešujícího kontrolního seznamu, který by mohly používat jak vládní, tak nevládní instituce. Rámec identifikuje a zkoumá potenciál technologie, jako je umělá inteligence a její deriváty, prostřednictvím široké optiky, která zahrnuje blaho člověka a společnosti, stejně jako vnější faktory, jako je ekonomika, politika, životní prostředí a bezpečnost. Některé aspekty kontrolního seznamu mohou být v závislosti na kontextu relevantnější než jiné, ale lepší rozhodnutí jsou pravděpodobnější, pokud jsou zváženy všechny domény. To je základní hodnota přístupu kontrolního seznamu. 

Navrhovaný rámec je odvozen z předchozí práce a myšlení, včetně zprávy o digitálním blahobytu INGSA (International Network for Governmental Science Advice).¹ a klasifikační rámec AI OECD² představit souhrn potenciálních příležitostí, rizik a dopadů umělé inteligence. Tyto předchozí produkty byly svým záměrem omezenější vzhledem k jejich době a kontextu, je zde potřeba zastřešujícího rámce, který představuje celou škálu problémů v krátkodobém i dlouhodobém horizontu. 

I když byl tento analytický rámec vyvinut pro zvážení umělé inteligence, mohl by být aplikován na jakoukoli rychle se objevující technologii. Problémy jsou pro další zkoumání široce seskupeny do následujících kategorií: 

• Blahobyt (včetně blahobytu jednotlivců nebo sebe sama, společnosti a společenského života a občanského života) 
• Obchod a ekonomika 
• ekologický 
• Geostrategické a geopolitické 
• Technologické (vlastnosti systému, design a použití) 

Je zahrnut seznam úvah pro každou z výše uvedených kategorií spolu s jejich příslušnými příležitostmi a důsledky. Některé jsou relevantní pro konkrétní případy nebo aplikace umělé inteligence, zatímco jiné jsou obecné a netýkají se platformy nebo použití. Žádná jednotlivá úvaha zde zahrnutá by neměla být považována za prioritu a jako taková by měla být přezkoumána všechna. 

Tento rámec lze využít, ale není omezen na, následujícími způsoby: 

• Překlenout propast mezi zásadami a hodnocením vytvořením ověřené společné taxonomie řady úvah, které by mohly příslušné zúčastněné strany využít jako základ pro informování a formování dalšího myšlení, včetně jakéhokoli rámce hodnocení, který by mohly být vyvinuty úřady. 

• Informovat o posouzení dopadů. Zákon EU o umělé inteligenci vyžaduje, aby organizace, které poskytují nástroje umělé inteligence nebo přijímají umělou inteligenci ve svých procesech, provedly posouzení dopadu s cílem identifikovat rizika jejich iniciativ a uplatnit vhodný přístup k řízení rizik. Zde prezentovaný rámec by k tomu mohl sloužit jako základ. 

• Posílit etické zásady potřebné k vedení a řízení používání AI. Rámec to dokáže tím, že poskytuje flexibilní základ, na kterém lze vyvíjet důvěryhodné systémy, a zajišťuje zákonné, etické, robustní a odpovědné používání technologie. Tyto zásady by mohly být testovány s ohledem na celou řadu dopadů uvedených v tomto rámci. 
• Usnadnit inventarizaci stávajících opatření (tj. regulačních, legislativních, politických) a identifikovat případné mezery, které je třeba dále zvážit. 

• Rámec je agnostický k technologii a jejímu použití. Mohla by být proto použita ve zcela odlišných oblastech, jako je syntetická biologie. 

Následující tabulka je počátečním tvarem dimenzí analytického rámce. V závislosti na technologii a jejím použití budou některé komponenty relevantnější než jiné. Příklady jsou uvedeny pro ilustraci toho, proč může být důležitá každá doména; v kontextu by rámec vyžadoval kontextově relevantní rozšíření. Je také důležité rozlišovat mezi vývojem platforem a obecnými problémy, které se mohou objevit během konkrétních aplikací.  

Klíč k zdroje deskriptorů

Prostý text:
Gluckman, P. a Allen, K. 2018. Pochopení blahobytu v kontextu rychlých digitálních a souvisejících transformací. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Tučné písmo:
OECD. 2022. Rámec OECD pro klasifikaci systémů umělé inteligence. OECD Digital Economy Papers, č. 323, OECD Publishing, Paříž. https://oecd.ai/en/classification 

Kurzíva:
Nové deskriptory (z více zdrojů) 

V závislosti na reakci na tento diskusní dokument by ISC vytvořila odbornou pracovní skupinu, která by dále rozvinula nebo upravila výše uvedený analytický rámec, pomocí něhož by zainteresované strany mohly komplexně sledovat jakýkoli významný vývoj platforem nebo dimenzí použití. Pracovní skupina by byla disciplinárně, geograficky a demograficky různorodá, s odbornými znalostmi od hodnocení technologií po veřejnou politiku, od lidského rozvoje po sociologii a budoucnost a technologické studie. 

Chcete-li se zapojit do tohoto diskusního příspěvku, navštivte rada.věda/publikace/rámec-digitální-technologie 

Při tvorbě tohoto dokumentu, který byl vypracován, bylo konzultováno mnoho lidí Sir Peter Gluckman, prezident ISC a Hema Sridhar, bývalá hlavní vědecká pracovnice Ministerstva obrany a nyní vedoucí výzkumná pracovnice Univerzity v Aucklandu na Novém Zélandu. 

Zejména děkujeme lordu Martinu Reesovi, bývalému prezidentovi Královské společnosti a spoluzakladateli Centra pro studium existenčních rizik, University of Cambridge; Profesor Shivaji Sondhi, profesor fyziky, University of Oxford; Profesor K Vijay Raghavan, bývalý hlavní vědecký poradce indické vlády; Amandeep Singh Gill, zmocněnec generálního tajemníka OSN pro technologie; Dr Seán Óh Éigeartaigh, výkonný ředitel Centra pro studium existenčních rizik, University of Cambridge; Amanda-June Brawner, hlavní politický poradce a Ian Wiggins, ředitel pro mezinárodní záležitosti, Royal Society UK; Dr. Jerome Duberry, Dr. Marie-Laure Salles, ředitelka Geneva Graduate Institute; pan Chor Pharn Lee, Centrum pro strategickou budoucnost, Úřad předsedy vlády, Singapur; Barend Mons a Dr Simon Hodson, Výbor pro data (CoDATA); profesor Yuko Harayama, Japonsko; profesor Rémi Quirion, prezident INGSA; Dr. Claire Craigová z Oxfordské univerzity a bývalá vedoucí prognostického úřadu vládního úřadu pro vědu; a prof. Yoshua Bengio, vědecký poradní sbor generálního tajemníka OSN a na Université de Montréal. Přístup kontrolního seznamu byl obecně schválen a byla zdůrazněna včasnost jakéhokoli opatření ze strany ISC.