Rámec na hodnotenie rýchlo sa rozvíjajúcich digitálnych a súvisiacich technológií: AI, veľké jazykové modely a ďalšie

• úvod 
• pozadia 
• Vývoj analytického rámca 
• Použitie analytického rámca 
• Rozmery, ktoré treba zvážiť pri hodnotení novej technológie 
• Cesta vpred 
• Poďakovanie

Rýchlo vznikajúce technológie predstavujú náročné problémy, pokiaľ ide o ich riadenie a potenciálnu reguláciu. Politické a verejné diskusie o umelej inteligencii (AI) a jej využívaní priniesli tieto otázky do akútnej pozornosti. Zatiaľ čo UNESCO, OECD a iní zverejnili široké princípy pre AI a prebiehajú diskusie o globálnej alebo jurisdikčnej regulácii technológie, existuje ontologická priepasť medzi vývojom princípov na vysokej úrovni a ich začlenením do regulácie, politiky, prístupy riadenia a správcovstva. Tu by mimovládna vedecká komunita mohla zohrávať osobitnú úlohu. 

Viacerí akademici a experti na politiku navrhli, aby Medzinárodná vedecká rada (ISC) – so svojím pluralistickým členstvom zo sociálnych a prírodných vied – vytvorila proces tvorby a udržiavania anotovaného rámca/kontrolného zoznamu rizík, prínosov, hrozieb a príležitostí spojených s rýchlo sa rozvíjajúcimi digitálnymi technológiami vrátane – ale nie výlučne – AI. Účelom kontrolného zoznamu by bolo informovať všetky zainteresované strany – vrátane vlád, obchodných vyjednávačov, regulačných orgánov, občianskej spoločnosti a priemyslu – o možných budúcich scenároch a zadefinovať, ako by mohli zvážiť príležitosti, prínosy, riziká a iné problémy. 

Výstupy by nepôsobili ako hodnotiaci orgán, ale ako adaptívny a vyvíjajúci sa analytický rámec, ktorý by mohol podporiť akékoľvek hodnotiace a regulačné procesy, ktoré by mohli vyvinúť zainteresované strany, vrátane vlád a multilaterálneho systému. Akýkoľvek analytický rámec by mal byť v ideálnom prípade vytvorený nezávisle od vládnych a priemyselných tvrdení, vzhľadom na ich pochopiteľné záujmy. Musí byť tiež maximálne pluralitný vo svojich perspektívach, a teda zahŕňať všetky aspekty technológie a jej dôsledky. 

Tento diskusný dokument poskytuje náčrt počiatočného rámca na informovanie mnohých globálnych a národných diskusií týkajúcich sa AI. 

Rýchly nástup technológie so zložitosťou a dôsledkami AI vedie k mnohým tvrdeniam o veľkých výhodách. Vyvoláva však aj obavy z významných rizík, od individuálnej až po geostrategickú úroveň. Veľká časť diskusií má tendenciu prebiehať na extrémnych koncoch spektra názorov a je potrebný pragmatickejší prístup. Technológia AI sa bude naďalej vyvíjať a história ukazuje, že prakticky každá technológia má prospešné aj škodlivé využitie. Otázkou teda je: ako môžeme dosiahnuť priaznivé výsledky z tejto technológie a zároveň znížiť riziko škodlivých následkov, z ktorých niektoré môžu mať až existenčný rozmer? 

Budúcnosť je vždy neistá, ale existuje dostatok dôveryhodných a odborných hlasov týkajúcich sa AI a generatívnej AI, ktoré podporujú relatívne preventívny prístup. Okrem toho je potrebný systémový prístup, pretože AI je trieda technológií so širokým využitím a aplikáciou viacerými typmi používateľov. To znamená, že pri zvažovaní dôsledkov AI pre jednotlivcov, spoločenský život, občiansky život, spoločenský život a v globálnom kontexte treba brať do úvahy celý kontext. 

Na rozdiel od väčšiny minulých technológií majú digitálne a súvisiace technológie veľmi krátke časové obdobie od vývoja po vydanie, čo je do značnej miery poháňané záujmami produkčných spoločností alebo agentúr. AI je rýchlo všadeprítomná; niektoré vlastnosti sa môžu prejaviť až po vydaní a technológia môže mať škodlivé aj benevolentné aplikácie. Dimenzie dôležitých hodnôt ovplyvnia vnímanie akéhokoľvek použitia. Okrem toho môžu byť v hre geostrategické záujmy. 

Na reguláciu virtuálnej technológie sa doteraz väčšinou pozeralo cez optiku „zásad“ a dobrovoľného dodržiavania. Nedávno sa však diskusia zvrtla na otázky vnútroštátneho a multilaterálneho riadenia vrátane využívania regulačných a iných politických nástrojov. Nároky v prospech alebo proti AI sú často hyperbolické a vzhľadom na povahu technológie je ťažké ich posúdiť. Vytvorenie efektívneho globálneho alebo národného systému regulácie technológií bude náročné a bude potrebné viacero vrstiev rozhodovania založeného na rizikách v rámci reťazca, od vynálezcu cez výrobcu, užívateľa, vládu až po multilaterálny systém. 

Zatiaľ čo zásady na vysokej úrovni vyhlásili okrem iného UNESCO, OECD a Európska komisia a prebiehajú rôzne diskusie na vysokej úrovni o otázkach potenciálnej regulácie, medzi týmito zásadami a riadením alebo regulačným rámcom existuje veľká ontologická priepasť. Aká je taxonómia úvah, ktoré môže regulačný orgán zvážiť? Úzko zamerané rámcovanie by bolo nerozumné vzhľadom na široké dôsledky týchto technológií. Tento potenciál bol predmetom mnohých komentárov, pozitívnych aj negatívnych.

ISC je primárna globálna mimovládna organizácia integrujúca prírodné a sociálne vedy. Jeho globálny a disciplinárny dosah znamená, že má dobré predpoklady na vytváranie nezávislých a globálne relevantných rád, ktoré informujú o zložitých rozhodnutiach, ktoré pred nami stoja, najmä preto, že súčasné hlasy v tejto aréne sú prevažne z priemyslu alebo od hlavných technologických veľmocí. Po rozsiahlej diskusii v posledných mesiacoch, vrátane zváženia mimovládneho procesu hodnotenia, ISC dospel k záveru, že jeho najužitočnejším príspevkom by bolo vytvorenie a udržiavanie adaptívneho analytického rámca, ktorý môže byť použitý ako základ pre diskusiu a rozhodovanie. všetky zainteresované strany, a to aj počas akéhokoľvek formálneho procesu hodnotenia, ktorý sa objaví. 

Tento rámec by mal formu zastrešujúceho kontrolného zoznamu, ktorý by mohli využívať vládne aj mimovládne inštitúcie. Rámec identifikuje a skúma potenciál technológie, akou je umelá inteligencia a jej deriváty, prostredníctvom širokej optiky, ktorá zahŕňa ľudské a spoločenské blaho, ako aj vonkajšie faktory, ako sú ekonomika, politika, životné prostredie a bezpečnosť. Niektoré aspekty kontrolného zoznamu môžu byť v závislosti od kontextu relevantnejšie ako iné, ale lepšie rozhodnutia sú pravdepodobnejšie, ak sa zohľadnia všetky oblasti. Toto je prirodzená hodnota prístupu kontrolného zoznamu. 

Navrhovaný rámec je odvodený z predchádzajúcej práce a myslenia, vrátane správy o digitálnom blahobyte Medzinárodnej siete pre vládne vedecké poradenstvo (INGSA).¹ a klasifikačný rámec AI OECD² predstaviť súhrn potenciálnych príležitostí, rizík a dopadov AI. Tieto predchádzajúce produkty boli vo svojom zámere obmedzenejšie vzhľadom na ich čas a kontext, existuje potreba zastrešujúceho rámca, ktorý predstavuje celú škálu problémov z krátkodobého aj dlhodobého hľadiska. 

Hoci bol tento analytický rámec vyvinutý s ohľadom na AI, mohol by sa použiť na akúkoľvek rýchlo sa rozvíjajúcu technológiu. Problémy sú vo všeobecnosti rozdelené do nasledujúcich kategórií na ďalšie preskúmanie: 

• Blahobyt (vrátane blahobytu jednotlivcov alebo seba, spoločnosti a spoločenského života a občianskeho života) 
• Obchod a hospodárstvo 
• ekologický 
• Geostrategické a geopolitické 
• Technologické (vlastnosti systému, dizajn a použitie) 

Uvádza sa zoznam úvah pre každú z vyššie uvedených kategórií spolu s ich príslušnými príležitosťami a dôsledkami. Niektoré sú relevantné pre konkrétne prípady alebo aplikácie AI, zatiaľ čo iné sú všeobecné a nezodpovedajú platforme alebo použitiu. Žiadna tu zahrnutá úvaha by sa nemala považovať za prioritu a ako taká by sa mali preskúmať všetky. 

Tento rámec by sa dal využiť, nie však výlučne, nasledujúcimi spôsobmi: 

• Preklenúť priepasť medzi zásadami a hodnotením zavedením overenej spoločnej taxonómie radu úvah, ktoré by mohli príslušné zainteresované strany využiť ako základ na informovanie a formovanie ďalšieho myslenia, vrátane akéhokoľvek hodnotiaceho rámca, ktorý môžu vytvoriť orgány. 

• Informovať o hodnoteniach vplyvu. Zákon EÚ o umelej inteligencii vyžaduje, aby organizácie, ktoré poskytujú nástroje umelej inteligencie alebo prijímajú umelú inteligenciu do svojich procesov, vykonali posúdenie vplyvu s cieľom identifikovať riziko svojich iniciatív a uplatniť vhodný prístup k riadeniu rizík. Tu prezentovaný rámec by sa mohol použiť ako základ. 

• Posilniť etické princípy potrebné na usmerňovanie a riadenie používania AI. Rámec to dokáže tak, že poskytuje flexibilný základ, na ktorom je možné rozvíjať dôveryhodné systémy, a zabezpečuje zákonné, etické, robustné a zodpovedné používanie technológie. Tieto zásady by sa mohli testovať v porovnaní s celým radom vplyvov prezentovaných v tomto rámci. 
• Uľahčiť inventarizáciu existujúcich opatrení (tj regulačných, legislatívnych, politických) a identifikovať všetky medzery, ktoré je potrebné ďalej zvážiť. 

• Rámec je agnostický k technológii a jej použitiu. Mohlo by sa preto použiť v celkom odlišných oblastiach, ako je syntetická biológia. 

Nasledujúca tabuľka je skorým tvarovaním dimenzií analytického rámca. V závislosti od technológie a jej použitia budú niektoré komponenty relevantnejšie ako iné. Príklady sú uvedené na ilustráciu toho, prečo môže byť dôležitá každá doména; v kontexte by si rámec vyžadoval kontextovo relevantné rozšírenie. Je tiež dôležité rozlišovať medzi vývojom platforiem a všeobecnými problémami, ktoré sa môžu objaviť počas konkrétnych aplikácií.  

Kľúč k zdrojov deskriptorov

Obyčajný text:
Gluckman, P. a Allen, K. 2018. Pochopenie blahobytu v kontexte rýchlych digitálnych a súvisiacich transformácií. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Tučný text:
OECD. 2022. Rámec OECD pre klasifikáciu systémov AI. Dokumenty OECD o digitálnej ekonomike, č. 323, OECD Publishing, Paríž. https://oecd.ai/en/classification 

Kurzíva:
Nové deskriptory (z viacerých zdrojov) 

V závislosti od odpovede na tento diskusný dokument by ISC vytvorila odbornú pracovnú skupinu, ktorá by ďalej rozvíjala alebo dopĺňala vyššie uvedený analytický rámec, pomocou ktorého by zainteresované strany mohli komplexne preskúmať akýkoľvek významný vývoj platforiem alebo rozmerov použitia. Pracovná skupina by bola disciplinárne, geograficky a demograficky rôznorodá, s odbornými znalosťami od hodnotenia technológií po verejnú politiku, od ľudského rozvoja po sociológiu a budúce a technologické štúdie. 

Ak sa chcete zapojiť do tohto diskusného dokumentu, navštívte stránku rada.veda/publikacie/frame-digitalne-technológie 

Pri tvorbe tohto dokumentu, ktorý vypracovala spoločnosť Sir Peter Gluckman, prezident ISC a Hema Sridhar, bývalý hlavný vedecký pracovník ministerstva obrany a teraz vedúci výskumný pracovník Aucklandskej univerzity na Novom Zélande. 

Zvlášť ďakujeme Lordovi Martinovi Reesovi, bývalému prezidentovi Kráľovskej spoločnosti a spoluzakladateľovi Centra pre štúdium existenčných rizík, University of Cambridge; profesor Shivaji Sondhi, profesor fyziky, University of Oxford; profesor K Vijay Raghavan, bývalý hlavný vedecký poradca indickej vlády; Amandeep Singh Gill, splnomocnenec generálneho tajomníka OSN pre technológie; Dr Seán Óh Éigeartaigh, výkonný riaditeľ Centra pre štúdium existenčných rizík, University of Cambridge; Amanda-June Brawner, hlavná politická poradkyňa a Ian Wiggins, riaditeľ pre medzinárodné záležitosti, Royal Society UK; Dr. Jerome Duberry, Dr. Marie-Laure Salles, riaditeľka Ženevského postgraduálneho inštitútu; pán Chor Pharn Lee, Centrum pre strategickú budúcnosť, Úrad predsedu vlády, Singapur; Barend Mons a Dr Simon Hodson, Výbor pre údaje (CoDATA); profesor Yuko Harayama, Japonsko; profesor Rémi Quirion, prezident INGSA; Dr Claire Craigová, Oxfordská univerzita a bývalá vedúca foresight, Úrad pre vedu vlády; a prof. Yoshua Bengio, Vedecký poradný výbor generálneho tajomníka OSN a na Université de Montréal. Prístup kontrolného zoznamu bol vo všeobecnosti schválený a zdôraznila sa včasnosť akéhokoľvek opatrenia zo strany ISC.