Registrace

Před summitem AI Safety Summit 2023 vydává ISC diskusní dokument o rámci pro hodnocení umělé inteligence a rychle se rozvíjející digitální technologie.

Vědečtí výzkumníci a praktici v oboru AI jsou vyzváni, aby reagovali na diskusní dokument ISC a navrhovaný rámec pro AI.

Řada akademiků a politických expertů navrhla, aby Mezinárodní vědecká rada – se svým pluralitním členstvím v sociálních a přírodních vědách – vytvořila proces vytváření a udržování anotovaného rámce/kontrolního seznamu rizik, přínosů, hrozeb a příležitostí. spojené s rychle se vyvíjejícími digitálními technologiemi, včetně – mimo jiné – AI. Účelem kontrolního seznamu by bylo informovat všechny zúčastněné strany – včetně vlád, obchodních vyjednavačů, regulačních orgánů, občanské společnosti a průmyslu – o potenciálních budoucích scénářích a zarámovat, jak by mohli zvážit příležitosti, přínosy, rizika a další otázky.


Diskusní dokument ISC

Rámec pro hodnocení rychle se rozvíjejících digitálních a souvisejících technologií: AI, velké jazykové modely a další

Tento diskusní dokument poskytuje nástin počátečního rámce pro informování mnoha globálních a národních diskusí týkajících se umělé inteligence.


Připojte se k diskusi

Doporučujeme vám zapojit se do diskuse o myšlenkách uvedených v tomto dokumentu ao jeho rámci pomocí formuláře v dolní části stránky.


ISC s potěšením představuje tento diskusní dokument o hodnocení rychle se rozvíjejících digitálních a souvisejících technologií. Umělá inteligence, syntetická biologie a kvantové technologie jsou hlavními příklady inovací založených na vědě, které se objevují bezprecedentním tempem. Může být náročné systematicky předvídat nejen jejich aplikace, ale také jejich důsledky.

Vyhodnocení společenských aspektů generativní umělé inteligence, jako jsou velké jazykové modely, které předvídatelně představují většinu tohoto diskusního dokumentu, je nezbytným mostem v rámci současného diskurzu – někdy řízeného panikou, jindy nedostatečně promyšleného – a nezbytných kurzů akci, kterou můžeme podniknout. ISC je přesvědčena, že je zapotřebí analytický rámec mezi sociálním přijetím takových nových technologií a jejich možnou regulací, aby se usnadnily diskuse mezi mnoha zúčastněnými stranami, které jsou potřebné k přijímání informovaných a odpovědných rozhodnutí o tom, jak optimalizovat sociální přínosy této rychle se objevující technologie.

ISC je otevřena reakcím naší komunity prostřednictvím tohoto diskusního dokumentu, aby posoudila, jak nejlépe i nadále být součástí debaty o technologii a přispívat do ní.

Salvatore Aricò, generální ředitel

Přispěvatelé do listu:

Při tvorbě tohoto dokumentu, který byl vypracován, bylo konzultováno mnoho lidí Sir Peter Gluckman, prezident ISC a Hema Sridhar, bývalá hlavní vědecká pracovnice Ministerstva obrany a nyní vedoucí výzkumná pracovnice Univerzity v Aucklandu na Novém Zélandu. 

Zejména děkujeme:

  • Lord Martin Rees, bývalý prezident Královské společnosti a spoluzakladatel Centra pro studium existenčních rizik, University of Cambridge;
  • Profesor Shivaji Sondhi, profesor fyziky, University of Oxford;
  • Profesor K Vijay Raghavan, bývalý hlavní vědecký poradce indické vlády;
  • Amandeep Singh Gill, zmocněnec generálního tajemníka OSN pro technologie;
  • Dr Seán Óh Éigeartaigh, výkonný ředitel Centra pro studium existenčních rizik, University of Cambridge;
  • Amanda-June Brawner, hlavní politický poradce a Ian Wiggins, ředitel pro mezinárodní záležitosti, Royal Society UK;
  • Dr. Jerome Duberry, Dr. Marie-Laure Salles, ředitelka Geneva Graduate Institute;
  • pan Chor Pharn Lee, Centrum pro strategickou budoucnost, Úřad předsedy vlády, Singapur;
  • Barend Mons a Dr Simon Hodson, Výbor pro data (CoDATA);
  • profesor Yuko Harayama, Japonsko;
  • profesor Rémi Quirion, prezident INGSA;
  • Dr. Claire Craigová, University of Oxford a bývalá vedoucí prognostického úřadu, vládní úřad pro vědu; a
  • Prof Yoshua Bengio, vědecký poradní sbor generálního tajemníka OSN a na Université de Montréal.

Co dalšího se děje v AI na ISC?

Expertní skupina ISC, Centre for Science Futures, má na začátku roku 2024 vydat pracovní dokument na téma „Příprava vědeckých ekosystémů pro umělou inteligenci“. Tento dokument bude obsahovat přehled literatury, mapu problémů a řadu krátkých případových studií jednotlivých zemí. Doufáme, že tento dokument přispěje k diskusím mezi tvůrci politik, předními představiteli průmyslu a výzkumnými pracovníky při vytváření plánů pro využití potenciálu umělé inteligence pro zlepšení vědy a výzkumu.

WorldFAIR

AI pro vědu: Postřehy z Asie a Tichomoří 

Začátkem října ISC Center for Science Futures označilo klíčový moment ve své nejnovější iniciativě o umělé inteligenci (AI) pro vědu, když se 14 vážených delegátů a odborníků zastupujících 12 zemí, většinou z Asie a Tichomoří, sešlo na včasném setkání v Kuala Lumpur, Malajsie s podporou Australské akademie věd. ➡️Rvíce

AI mění vědu – jak? Kdo by měl obtěžovat?

Kritický pohled na dopad umělé inteligence (AI) na vědu z různých úhlů pohledu a aktérů – od veřejných financujících až po soukromé high-tech instituce – odhaluje sdílené obavy z nedostatku transparentnosti a spolupráce při vytváření přístupu více zaměřeného na člověka, který by splnit slib vědy jako globálního veřejného statku. ➡️Rvíce


Zpětná vazba AI

Jméno
Rod
Ochrana údajů: Respondenti by si měli být vědomi toho, že ISC bude uchovávat předložené informace po dobu trvání iniciativy (viz: https://council.science/privacy-policy)
Zveme vás k odběru newsletteru ISC.

Obrázek: adamichi na iStock