Príručka ISC ponúka komplexný rámec navrhnutý tak, aby preklenul priepasť medzi zásadami na vysokej úrovni a praktickou, žalovateľnou politikou. Reaguje na naliehavú potrebu spoločného chápania príležitostí a rizík, ktoré predstavujú vznikajúce technológie. Toto je základný dokument pre tých, ktorí pracujú na prepojení politík v našej rýchlo sa meniacej digitálnej ére.
Rámec skúma potenciál AI a jej derivátov prostredníctvom komplexnej šošovky, ktorá zahŕňa ľudské a spoločenské blaho spolu s vonkajšími faktormi, ako sú ekonomika, politika, životné prostredie a bezpečnosť. Niektoré aspekty kontrolného zoznamu môžu byť v závislosti od kontextu relevantnejšie ako iné, ale lepšie rozhodnutia sa zdajú pravdepodobnejšie, ak sa zohľadnia všetky oblasti, aj keď niektoré možno v konkrétnych prípadoch rýchlo identifikovať ako irelevantné. Toto je prirodzená hodnota prístupu kontrolného zoznamu.
„V ére, ktorá sa vyznačuje rýchlymi technologickými inováciami a zložitými globálnymi výzvami, rámec ISC pre komplexnú a viacrozmernú analýzu potenciálnych vplyvov umožňuje lídrom prijímať informované a zodpovedné rozhodnutia. Zabezpečuje, že postupujeme v technologickom pokroku, robíme to s dôkladným zvážením etických, sociálnych a ekonomických dôsledkov.
Peter Gluckman, prezident ISC
Zatiaľ čo zásady na vysokej úrovni okrem iného vyhlásili UNESCO, OECD, Európska komisia a OSN a stále prebiehajú rôzne diskusie o otázkach potenciálneho riadenia, regulácie, etiky a bezpečnosti, existuje veľká priepasť medzi týmito zásadami a riadenia alebo regulačného rámca. ISC rieši túto potrebu prostredníctvom svojej novej príručky pre tvorcov politík.
Účelom tejto príručky pre tvorcov politík nie je zakázať regulačný režim, ale skôr navrhnúť adaptívny a vyvíjajúci sa analytický rámec, ktorý by mohol podporiť akékoľvek hodnotiace a regulačné procesy, ktoré môžu byť vyvinuté zainteresovanými stranami, vrátane vlád a multilaterálneho systému.
„Rámec je kritickým krokom v globálnej konverzácii o AI, pretože poskytuje základ, z ktorého môžeme budovať konsenzus o dôsledkoch technológie pre súčasnosť aj budúcnosť.
Hema Sridhar, bývalá hlavná vedecká poradkyňa, Ministerstvo obrany Nového Zélandu a teraz vedúca výskumná pracovníčka Fellow, Univerzita v Aucklande, Nový Zéland.
Od októbra 2023 sa uskutočnilo niekoľko významných národných a multilaterálnych iniciatív s ďalším zohľadňovaním etiky a bezpečnosti AI. Dôsledky umelej inteligencie na integritu niektorých našich kritických systémov vrátane finančných, vládnych, právnych a vzdelávacích, ako aj rôznych znalostných systémov (vrátane vedeckých a domácich poznatkov), vyvolávajú čoraz väčšie obavy. Rámec ďalej odráža tieto aspekty.
Spätná väzba získaná od členov ISC a medzinárodnej komunity tvoriacej politiku k dnešnému dňu sa odráža v revidovanej verzii analytického rámca, ktorý je teraz vydaný ako príručka pre tvorcov politík.
Príručka pre tvorcov politík: Hodnotenie rýchlo sa rozvíjajúcich technológií vrátane AI, veľkých jazykových modelov a ďalších
Tento diskusný dokument poskytuje náčrt počiatočného rámca na informovanie mnohých globálnych a národných diskusií týkajúcich sa AI.
Stiahnite si rámec na použitie vo vašej organizácii
Tu poskytujeme rámcový nástroj ako upraviteľný hárok Excelu na použitie vo vašej organizácii. Ak dávate prednosť formátu s otvoreným zdrojom, kontaktujte nás [chránené e-mailom].
úvod
Rýchlo vznikajúce technológie predstavujú náročné problémy, pokiaľ ide o ich používanie, riadenie a potenciálnu reguláciu. Prebiehajúce politické a verejné diskusie o umelej inteligencii (AI) a jej využívaní priniesli tieto otázky do akútnej pozornosti. UNESCO, OECD, OSN a iné oznámili široké princípy pre AI, vrátane Bletchleyskej deklarácie Spojeného kráľovstva, a objavujú sa aj jurisdikčné pokusy o reguláciu aspektov technológie, napríklad prostredníctvom AI Európskej únie (EÚ). zákon alebo nedávne nariadenie o umelej inteligencii Spojených štátov amerických.
Zatiaľ čo o používaní AI sa na týchto a iných fórach podrobne diskutuje, naprieč geopolitickými rozdielmi a v krajinách na všetkých úrovniach príjmov, stále existuje ontologická priepasť medzi vývojom princípov na vysokej úrovni a ich začlenením do praxe prostredníctvom regulácie, politiky, riadenia. alebo správcovské prístupy. Cesta od princípu k praxi je zle definovaná, ale vzhľadom na povahu a kadenciu vývoja a aplikácie AI, rôznorodosť záujmov a rozsah možných aplikácií nemôže byť žiadny prístup príliš všeobecný alebo normatívny.
Z týchto dôvodov naďalej zohráva osobitnú úlohu mimovládna vedecká komunita. Medzinárodná vedecká rada (ISC) – s pluralitným členstvom zo sociálnych a prírodných vied – vydala v októbri 2023 diskusný dokument, ktorý predstavuje predbežný analytický rámec, ktorý zvažuje riziká, výhody, hrozby a príležitosti spojené s rýchlo sa rozvíjajúcou digitálnou technológiou. Hoci bol vyvinutý na zváženie AI, je vo svojej podstate technologicky agnostický a možno ho použiť na celý rad vznikajúcich a prevratných technológií, ako je syntetická biológia a kvantové technológie. Tento diskusný dokument si vyžiadal spätnú väzbu od akademikov a tvorcov politík. Prevažná spätná väzba si vyžiadala vykonanie takejto analýzy a predstavovala cenný prístup k riešeniu nových technológií, ako je AI.
Účelom rámca je poskytnúť nástroj na informovanie všetkých zainteresovaných strán – vrátane vlád, obchodných vyjednávačov, regulačných orgánov, občianskej spoločnosti a priemyslu – o vývoji týchto technológií, aby im pomohol určiť, ako by mohli zvážiť pozitívne alebo negatívne dôsledky samotnú technológiu a konkrétnejšie jej konkrétnu aplikáciu. Tento analytický rámec bol vyvinutý nezávisle od záujmov vlády a priemyslu. Je maximálne pluralitná vo svojich perspektívach, zahŕňa všetky aspekty technológie a jej dôsledky na základe rozsiahlych konzultácií a spätnej väzby.
Cieľom tohto diskusného dokumentu pre tvorcov politík nie je zakázať regulačný režim, ale skôr navrhnúť adaptívny a vyvíjajúci sa analytický rámec, ktorý by mohol podporiť akékoľvek hodnotiace a regulačné procesy, ktoré by mohli vyvinúť zainteresované strany, vrátane vlád a multilaterálneho systému.
Keďže tvorcovia rozhodnutí na globálnej a národnej úrovni zvažujú vhodné nastavenia politiky a páky na vyváženie rizík a výhod novej technológie, akou je AI, analytický rámec je určený ako doplnkový nástroj na zabezpečenie primeraného zohľadnenia celého súboru potenciálnych dôsledkov.
Pozadie: prečo analytický rámec?
Rýchly nástup technológií so zložitosťou a dôsledkami AI vedie k mnohým tvrdeniam o veľkých výhodách. Vyvoláva však aj obavy z významných rizík, od individuálnej až po geostrategickú úroveň.1 Veľká časť doterajších diskusií bola posudzovaná v binárnom zmysle, keďže verejne vyjadrené názory sa zvyčajne odohrávajú na extrémnych koncoch spektra. Nároky v prospech alebo proti AI sú často hyperbolické a vzhľadom na povahu technológie je ťažké ich posúdiť.
Tam, kde sa hyperbola nahrádza kalibrovanými a podrobnejšími hodnoteniami, je potrebný pragmatickejší prístup. Technológia AI sa bude naďalej vyvíjať a história ukazuje, že prakticky každá technológia má prospešné aj škodlivé využitie. Otázka teda znie: ako môžeme dosiahnuť prospešné výsledky tejto technológie a zároveň znížiť riziko škodlivých následkov, z ktorých niektoré môžu byť vo svojej veľkosti existenčné?
Budúcnosť je vždy neistá, ale existuje dostatok dôveryhodných a odborných hlasov týkajúcich sa AI a generatívnej AI, ktoré podporujú relatívne preventívny prístup. Okrem toho je potrebný systémový prístup, pretože AI je trieda technológií so širokým využitím a aplikáciou viacerými typmi používateľov. To znamená, že pri zvažovaní dôsledkov akéhokoľvek použitia AI pre jednotlivcov, spoločenský život, občiansky život, spoločenský život a v globálnom kontexte je potrebné zvážiť celý kontext.
Na rozdiel od väčšiny ostatných technológií je pri digitálnych a súvisiacich technológiách čas medzi vývojom, vydaním a aplikáciou extrémne krátky, čo je do značnej miery ovplyvnené záujmami produkčných spoločností alebo agentúr. Už svojou podstatou – a keďže je založená na digitálnej chrbtici – AI bude mať aplikácie, ktoré sú rýchlo všadeprítomné, ako už bolo vidieť pri vývoji veľkých jazykových modelov. V dôsledku toho sa niektoré vlastnosti môžu prejaviť až po uvoľnení, čo znamená, že existuje riziko nepredvídaných následkov, škodlivých aj dobromyseľných.
Významné dimenzie spoločenských hodnôt, najmä v rôznych regiónoch a kultúrach, ovplyvnia spôsob vnímania a prijímania akéhokoľvek použitia. Okrem toho už v diskusii dominujú geostrategické záujmy, pričom suverénne a multilaterálne záujmy sa neustále prelínajú, a tak poháňajú konkurenciu a rozdelenie.
K dnešnému dňu bola veľká časť regulácie virtuálnej technológie z veľkej časti vnímaná cez optiku „zásad“ a dobrovoľného súladu, hoci so zákonom EÚ o umelej inteligencii2 a podobne vidíme posun k vymožiteľnejším, ale trochu užším predpisom. Zavedenie efektívneho globálneho alebo národného technologického riadenia a/alebo regulačného systému zostáva náročné a neexistuje žiadne zrejmé riešenie. V celom reťazci bude potrebných viacero vrstiev rozhodovania založeného na rizikách, od vynálezcu cez výrobcu, užívateľa, vládu až po multilaterálny systém.
Zatiaľ čo princípy na vysokej úrovni vyhlásili okrem iného UNESCO, OECD, Európska komisia a OSN a pokračujú rôzne diskusie na vysokej úrovni o otázkach potenciálneho riadenia, regulácie, etiky a bezpečnosti, existuje medzi nimi veľká priepasť. zásady a rámec riadenia alebo regulácie. Toto treba riešiť.
Ako východiskový bod ISC zvažuje vypracovanie taxonómie úvah, na ktoré by sa mohol odvolať každý vývojár, regulátor, politický poradca, spotrebiteľ alebo osoba s rozhodovacou právomocou. Vzhľadom na široké dôsledky týchto technológií musí takáto taxonómia brať do úvahy skôr súhrn dôsledkov než úzko zamerané rámcovanie. Globálna fragmentácia sa zvyšuje v dôsledku vplyvu geostrategických záujmov na rozhodovanie a vzhľadom na naliehavosť tejto technológie je nevyhnutné, aby nezávislé a neutrálne hlasy vytrvalo presadzovali jednotný a inkluzívny prístup.
1) Hindustan Times. 2023. G20 musí zriadiť medzinárodný panel pre technologické zmeny.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Zákon EÚ o umelej inteligencii. 2023. https://artificialintelligenceact.eu
Vývoj analytického rámca
ISC je primárna globálna mimovládna organizácia integrujúca prírodné a spoločenské vedy. Jeho globálny a disciplinárny dosah znamená, že má dobrú pozíciu na vytváranie nezávislých a globálne relevantných rád, ktoré informujú o zložitých rozhodnutiach, ktoré pred nami stoja, najmä preto, že súčasné hlasy v tejto aréne sú prevažne z priemyslu alebo z politických a politických komunít hlavných technologických veľmocí.
Po období rozsiahlych diskusií, ktoré zahŕňali zváženie mimovládneho procesu hodnotenia, ISC dospel k záveru, že jeho najužitočnejším príspevkom by bolo vytvorenie adaptívneho analytického rámca, ktorý by mohli použiť ako základ pre diskusiu a rozhodovanie všetkými zainteresovaných strán, a to aj počas akýchkoľvek formálnych procesov hodnotenia, ktoré sa objavia.
Predbežný analytický rámec, ktorý bol uvoľnený na diskusiu a spätnú väzbu v októbri 2023, mal formu zastrešujúceho kontrolného zoznamu určeného pre vládne aj mimovládne inštitúcie. Rámec identifikoval a preskúmal potenciál technológie, ako je AI a jej derivátov, prostredníctvom širokého objektívu, ktorý zahŕňa ľudské a spoločenské blaho, ako aj vonkajšie faktory, ako je ekonomika, politika, životné prostredie a bezpečnosť. Niektoré aspekty kontrolného zoznamu môžu byť v závislosti od kontextu relevantnejšie ako iné, ale lepšie rozhodnutia sa zdajú pravdepodobnejšie, ak sa zohľadnia všetky oblasti, aj keď niektoré možno v konkrétnych prípadoch rýchlo identifikovať ako irelevantné. Toto je prirodzená hodnota prístupu kontrolného zoznamu.
Predbežný rámec bol odvodený z predchádzajúcej práce a myslenia, vrátane správy Medzinárodnej siete pre vládne vedecké poradenstvo (INGSA) o digitálnom blahobyte3 a rámca OECD pre klasifikáciu systémov umelej inteligencie4 s cieľom predstaviť súhrn potenciálnych príležitostí, rizík a vplyvov. AI. Tieto predchádzajúce produkty boli viac obmedzené vo svojom zámere vzhľadom na ich čas a kontext; je potrebný zastrešujúci rámec, ktorý predstavuje celú škálu otázok z krátkodobého aj dlhodobého hľadiska.
Od svojho vydania získal diskusný dokument významnú podporu mnohých odborníkov a tvorcov politík. Mnohí špecificky podporili odporúčanie vyvinúť adaptívny rámec, ktorý umožní zámerné a proaktívne zváženie rizík a dôsledkov technológie, a pritom vždy zohľadní všetky dimenzie od jednotlivca po spoločnosť a systémy.
Jedným z kľúčových postrehov uskutočnených prostredníctvom spätnej väzby bolo uznanie, že niekoľko dôsledkov zvažovaných v rámci je vo svojej podstate mnohostranné a zasahuje do viacerých kategórií. Napríklad dezinformácie by sa mohli posudzovať z individuálneho aj geostrategického hľadiska; takže dôsledky by boli široké.
Navrhla sa aj možnosť zahrnúť prípadové štúdie alebo príklady na testovanie rámca. To by sa mohlo použiť na vypracovanie usmernení, ktoré by demonštrovali, ako by sa to dalo použiť v praxi v rôznych kontextoch. Bol by to však významný záväzok a môže obmedziť spôsob, akým rôzne skupiny vnímajú používanie tohto rámca. Najlepšie to robia tvorcovia politík v spolupráci s odborníkmi v konkrétnych jurisdikciách alebo kontextoch.
Od októbra 2023 sa uskutočnilo niekoľko významných národných a multilaterálnych iniciatív s ďalším zohľadňovaním etiky a bezpečnosti AI. Dôsledky umelej inteligencie na integritu niektorých našich kritických systémov vrátane finančných, vládnych, právnych a vzdelávacích, ako aj rôznych znalostných systémov (vrátane vedeckých a domácich poznatkov), vyvolávajú čoraz väčšie obavy. Revidovaný rámec ďalej odráža tieto aspekty.
Doteraz prijatá spätná väzba sa odráža v revidovanej verzii analytického rámca, ktorý je teraz vydaný ako príručka pre tvorcov politík.
Zatiaľ čo rámec je prezentovaný v kontexte AI a súvisiacich technológií, je okamžite prenosný na úvahy o iných rýchlo sa rozvíjajúcich technológiách, ako je kvantová a syntetická biológia.
3) Gluckman, P. a Allen, K. 2018. Pochopenie blahobytu v kontexte rýchlych digitálnych a súvisiacich transformácií. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Rámec OECD pre klasifikáciu systémov AI. Dokumenty OECD o digitálnej ekonomike, č. 323,#. Paris, OECD Publishing.
https://oecd.ai/en/classificatio
Rámec
Nasledujúca tabuľka predstavuje rozmery predpokladaného analytického rámca. Príklady sú uvedené na ilustráciu toho, prečo môže na každej doméne záležať; v kontexte by si rámec vyžadoval kontextovo relevantné rozšírenie. Je tiež dôležité rozlišovať medzi všeobecnými problémami, ktoré vznikajú počas vývoja platformy, a tými, ktoré sa môžu objaviť počas špecifických aplikácií. Žiadna tu zahrnutá úvaha by sa nemala považovať za prioritu a ako taká by sa mali preskúmať všetky.
Problémy sú vo všeobecnosti zoskupené do nasledujúcich kategórií, ako je uvedené nižšie:
Tabuľka podrobne uvádza rozmery, ktoré možno bude potrebné zvážiť pri hodnotení novej technológie.
– INGSA. 2018. Pochopenie blahobytu v kontexte rýchlych digitálnych a súvisiacich transformácií.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Nové deskriptory (získané prostredníctvom rozsiahlych konzultácií, spätnej väzby a prehľadu literatúry)
– Rámec OECD pre klasifikáciu systémov umelej inteligencie: nástroj pre účinné politiky v oblasti umelej inteligencie.
https://oecd.ai/en/classification
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Kompetencia AI používateľov | Ako kompetentní a vedomí si vlastností systému sú pravdepodobní používatelia, ktorí budú so systémom interagovať? Ako im budú poskytnuté relevantné používateľské informácie a upozornenia? |
| Dotknutá zainteresovaná strana | Kto sú hlavné zainteresované strany, ktoré bude systém ovplyvňovať (jednotlivci, komunity, zraniteľní, sektoroví pracovníci, deti, tvorcovia politík, odborníci atď.)? |
| Voliteľnosť | Majú používatelia možnosť odhlásiť sa zo systému alebo majú možnosť spochybniť alebo opraviť výstup? |
| Riziká pre ľudské práva a demokratické hodnoty | Má systém zásadný vplyv na ľudské práva vrátane, ale nie výlučne, súkromia, slobody prejavu, spravodlivosti, nediskriminácie atď.? |
| Potenciálne účinky na blaho ľudí | Vzťahujú sa oblasti vplyvu systému na pohodu jednotlivých používateľov (kvalita práce, vzdelanie, sociálne interakcie, duševné zdravie, identita, prostredie atď.)? |
| Potenciál premiestňovania ľudskej práce | Existuje potenciál, aby systém automatizoval úlohy alebo funkcie, ktoré vykonávali ľudia? Ak áno, aké sú následné dôsledky? |
| Potenciál pre manipuláciu identity, hodnôt alebo vedomostí | Je systém navrhnutý alebo potenciálne schopný manipulovať s identitou používateľa resp hodnoty, alebo šírenie dezinformácií? |
| Príležitosti na sebavyjadrenie a sebarealizáciu | Existuje potenciál pre umelosť a pochybnosti o sebe? Existuje potenciál pre falošné resp neoveriteľné tvrdenia o odbornosti? |
| Miery vlastnej hodnoty | Existuje tlak na zobrazenie idealizovaného ja? Automatizácia by mohla nahradiť zmysel osobného naplnenia? Existuje tlak na súťaž so systémom v pracovisko? Je ťažšie chrániť povesť jednotlivca pred dezinformáciami? |
| súkromia | Existujú rozptýlené zodpovednosti za ochranu súkromia a existujú nejaké? aké sú predpoklady o tom, ako sa osobné údaje používajú? |
| Autonómia | Mohol by systém AI ovplyvniť ľudskú autonómiu generovaním nadmerného spoliehania sa koncoví užívatelia? |
| Ľudský rozvoj | Má to vplyv na získavanie kľúčových zručností pre rozvoj človeka, ako napr exekutívne funkcie alebo interpersonálne zručnosti alebo zmeny ovplyvňujúce čas pozornosti učenie, rozvoj osobnosti, duševné zdravie atď.? |
| Osobná zdravotná starostlivosť | Existujú tvrdenia o samodiagnostike alebo personalizovaných riešeniach zdravotnej starostlivosti? ak áno, sú validované podľa regulačných noriem? |
| Duševné zdravie | Hrozí zvýšená úzkosť, osamelosť alebo iné psychické problémy, príp dokáže technológia takéto vplyvy zmierniť? |
| Ľudská evolúcia | Mohli by veľké jazykové modely a všeobecná umelá inteligencia zmeniť priebeh ľudskej evolúcie? |
| Interakcia človek-stroj | Mohlo by používanie viesť časom k strate zručností a závislosti jednotlivcov? sú má vplyv na ľudskú interakciu? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Spoločenské hodnoty | Mení systém zásadne charakter spoločnosti, umožňuje normalizáciu myšlienok, ktoré boli predtým považované za antisociálne, alebo porušuje spoločenské hodnoty kultúry, v ktorej sa uplatňuje? |
| Sociálne interakcie | Má to vplyv na zmysluplný ľudský kontakt vrátane citových vzťahov? |
| Zdravie obyvateľstva | Existuje potenciál, aby systém podporil alebo podkopal zámery v oblasti zdravia obyvateľstva? |
| Kultúrny prejav | Je zvýšenie kultúrneho privlastnenia alebo diskriminácia pravdepodobné alebo ťažšie riešiť? Vylučuje spoliehanie sa na systém rozhodovania alebo ich marginalizuje kultúrne relevantné sektorové väzby spoločnosti? |
| Verejné vzdelávanie | Má to vplyv na roly učiteľov alebo vzdelávacie inštitúcie? Zdôrazňuje alebo znižuje systém digitálnu priepasť a nerovnosť medzi študentmi? Je vnútorná hodnota vedomostí alebo kritického chápania pokročilá alebo podkopaná? |
| Skreslené reality | Sú metódy používané na rozpoznanie toho, čo je pravda, stále použiteľné? Je vnímanie reality ohrozené? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Priemyselný sektor | V ktorom priemyselnom sektore je systém nasadený (financie, poľnohospodárstvo, zdravotníctvo, školstvo, obrana atď.)? |
| Obchodný model | V akej obchodnej funkcii sa systém používa a v akej funkcii? Kde sa systém používa (súkromný, verejný, neziskový)? |
| Vplyvy na kritické činnosti | Ovplyvnilo by narušenie funkcie alebo činnosti systému základné služby alebo kritické infraštruktúry? |
| Šírka nasadenia | Ako je systém nasadený (úzke použitie v rámci jednotky vs. rozšírené celoštátne/medzinárodné)? |
| Technická vyspelosť | Nakoľko je systém technicky vyspelý? |
| interoperabilita | Je pravdepodobné, že budú existovať silá, na národnej alebo globálnej úrovni, ktoré brzdia voľný obchod a ovplyvňujú spoluprácu s partnermi? |
| Technologická suverenita | Je túžba po technologickej suverenite hnacou silou správania, vrátane kontroly nad celým dodávateľským reťazcom AI? |
| Redistribúcia príjmov a národné fiškálne páky | Mohli by byť ohrozené základné úlohy suverénneho štátu (napr. rezervné banky)? Zvýši sa alebo zníži sa schopnosť štátu napĺňať očakávania občanov a dôsledky (sociálne, ekonomické, politické atď.)? |
| Digitálna priepasť (priepasť umelej inteligencie) | Zhoršujú sa existujúce digitálne nerovnosti alebo sa vytvárajú nové? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Správa a verejná služba | Mohli by byť mechanizmy riadenia a globálny systém riadenia ovplyvnené pozitívne alebo negatívne? |
| Správy médií | Je pravdepodobné, že sa verejný diskurz polarizuje a zakorení na úrovni populácie? Bude to mať vplyv na úroveň dôvery vo Štvrtý stav? Budú ďalej ovplyvnené štandardy konvenčnej novinárskej etiky a integrity? |
| Pravidlo zákona | Bude to mať vplyv na schopnosť identifikovať jednotlivcov alebo organizácie, ktoré budú niesť zodpovednosť (napr. aký druh zodpovednosti priradiť algoritmu za nepriaznivé výsledky)? Vzniká strata suverenity (environmentálna, fiškálna, sociálna politika, etika atď.)? |
| Politika a sociálna súdržnosť | Existuje možnosť viac zakorenených politických názorov a menej príležitostí na dosiahnutie konsenzu? Existuje možnosť ďalšej marginalizácie skupín? Sú kontradiktórne štýly politiky viac alebo menej pravdepodobné? |
| Sociálna licencia | Existujú obavy o súkromie, otázky dôvery a morálne obavy, ktoré je potrebné zvážiť, aby zainteresované strany akceptovali použitie? |
| Domorodé vedomosti | Mohli by byť pôvodné znalosti a údaje poškodené alebo zneužité? Existujú primerané opatrenia na ochranu pred skresľovaním, dezinformáciami a zneužívaním? |
| Vedecký systém | Je ohrozená akademická a výskumná integrita? Dochádza k strate dôvery vo vedu? Existujú možnosti zneužitia, nadmerného používania alebo zneužitia? Aký je dôsledok vedeckej praxe? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Presný dohľad | Sú systémy vyškolené na základe individuálnych behaviorálnych a biologických údajov a mohli by sa použiť na zneužívanie jednotlivcov alebo skupín? |
| Digitálna súťaž | Mohli by štátni alebo neštátni aktéri (napr. veľké technologické spoločnosti) využiť systémy a údaje na pochopenie a kontrolu populácií a ekosystémov iných krajín alebo podkopať jurisdikčnú kontrolu? |
| Geopolitická konkurencia | Mohol by systém rozprúdiť konkurenciu medzi národmi pri využívaní individuálnych a skupinových údajov pre ekonomické, medicínske a bezpečnostné záujmy? |
| Posun v globálnych mocnostiach | Je postavenie národných štátov ako hlavných svetových geopolitických aktérov ohrozené? Majú technologické spoločnosti moc, ktorá bola kedysi vyhradená pre národné štáty, a stali sa nezávislými, suverénnymi aktérmi (vznikajúci technopolárny svetový poriadok)? |
| dezinformácie | Uľahčil by systém produkciu a šírenie dezinformácií štátnym a neštátnym subjektom s dosahom na sociálnu súdržnosť, dôveru a demokraciu? |
| Aplikácie s dvojakým použitím | Existuje možnosť vojenského aj civilného využitia? |
| Fragmentácia globálneho poriadku | Mohli by sa vytvoriť sila alebo zoskupenia regulácie a dodržiavania predpisov, ktoré bránia spolupráci, vedú k nezrovnalostiam v uplatňovaní a vytvárajú priestor pre konflikty? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Spotreba energie a zdrojov (uhlíková stopa) | Zvyšuje systém a požiadavky spotrebu energie a zdrojov nad rámec zvýšenia efektívnosti dosiahnutého prostredníctvom aplikácie? |
| Zdroj energie | Odkiaľ sa čerpá energia pre systém (obnoviteľné vs. fosílne palivá atď.)? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Smer a zber | Zhromažďujú údaje a vstupy ľudia, automatizované senzory alebo oboje? |
| Pôvod údajov | Sú údaje a vstupy od odborníkov poskytnuté, pozorované, syntetické alebo odvodené? Existujú ochrany vodoznaku na potvrdenie pôvodu? |
| Dynamický charakter údajov | Sú údaje dynamické, statické, dynamické z času na čas alebo v reálnom čase? |
| Práva | Sú údaje vo vlastníctve, sú verejné alebo osobné (súvisia s identifikovateľnými jednotlivcami)? |
| Identifikovateľnosť a osobné údaje | Ak ide o osobné údaje, sú údaje anonymizované alebo pseudonymizované? |
| Štruktúra údajov | Sú údaje štruktúrované, pološtruktúrované, komplexne štruktúrované alebo neštruktúrované? |
| Formát údajov | Je formát údajov a metadát štandardizovaný alebo neštandardizovaný? |
| Rozsah údajov | Aká je mierka súboru údajov? |
| Vhodnosť a kvalita údajov | Je súbor údajov vhodný na daný účel? Je veľkosť vzorky primeraná? Je dostatočne reprezentatívna a úplná? Ako hlučné sú dáta? Je náchylný na chyby? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Dostupnosť informácií | Sú k dispozícii nejaké informácie o modeli systému? |
| Typ modelu AI | Je model symbolický (pravidlá vytvorené človekom), štatistický (využíva údaje) alebo hybridný? |
| Práva spojené s modelom | Je model s otvoreným zdrojom alebo proprietárny, spravovaný vlastnou správou alebo treťou stranou? |
| Jeden z viacerých modelov | Je systém zložený z jedného modelu alebo viacerých vzájomne prepojených modelov? |
| Generatívne alebo diskriminačné | Je model generatívny, diskriminačný alebo oboje? |
| Stavba modelu | Učí sa systém na základe pravidiel napísaných ľuďmi, z údajov, učenia sa pod dohľadom alebo prostredníctvom posilňovania? |
| Vývoj modelu (AI drift) | Vyvíja sa model a/alebo získava schopnosti z interakcie s údajmi v teréne? |
| Federované alebo centrálne vzdelávanie | Je model trénovaný centrálne alebo na niekoľkých lokálnych serveroch alebo „okrajových“ zariadeniach? |
| Vývoj/údržba | Je model univerzálny, prispôsobiteľný alebo prispôsobený údajom AI aktéra? |
| Deterministické alebo pravdepodobnostné | Používa sa model deterministickým alebo pravdepodobnostným spôsobom? |
| Priehľadnosť modelu | Majú používatelia k dispozícii informácie, ktoré im umožnia pochopiť výstupy a obmedzenia modelu alebo použiť obmedzenia? |
| Výpočtové obmedzenie | Existujú v systéme výpočtové obmedzenia? Je možné predpovedať skoky v schopnostiach alebo zákony škálovania? |
| Kritériá | Príklady toho, ako sa to môže prejaviť v analýze |
| Úlohy vykonávané systémom | Aké úlohy systém vykonáva (rozpoznávanie, detekcia udalostí, predpovedanie atď.)? |
| Kombinácia úloh a akcií | Spája systém viacero úloh a činností (systémy na vytváranie obsahu, autonómne systémy, riadiace systémy atď.)? |
| Úroveň autonómie systému | Aké autonómne sú akcie systému a akú úlohu zohrávajú ľudia? |
| Stupeň ľudského zapojenia | Existuje určitá ľudská účasť na dohľad nad celkovou činnosťou systému AI a schopnosť rozhodnúť, kedy a ako systém AI použiť v akejkoľvek situácii? |
| Hlavná aplikácia | Patrí systém do základnej aplikačnej oblasti, ako sú technológie ľudského jazyka, počítačové videnie, automatizácia a/alebo optimalizácia alebo robotika? |
| Hodnotenie | Sú dostupné normy alebo metódy na hodnotenie výstupov systému? |
Ako by sa dal tento rámec použiť?
Tento rámec možno použiť mnohými spôsobmi, vrátane:
Cesta vpred
Stručne povedané, analytický rámec je poskytovaný ako základ súboru nástrojov, ktorý by mohli zainteresované strany použiť na komplexné preskúmanie akéhokoľvek významného vývoja platforiem alebo používania konzistentným a systematickým spôsobom. Dimenzie prezentované v tomto rámci majú význam od hodnotenia technológie po verejnú politiku, od ľudského rozvoja po sociológiu a budúce a technologické štúdie. Hoci bol tento analytický rámec vyvinutý pre AI, má oveľa širšiu aplikáciu na akúkoľvek inú vznikajúcu technológiu.
Poďakovanie
Pri tvorbe úvodného diskusného dokumentu aj spätnej väzby po jeho zverejnení bolo konzultovaných mnoho ľudí, ktorí poskytli spätnú väzbu. Oba dokumenty boli vypracované Sir Peter Gluckman, prezident ISC a Hema Sridhar, bývalá hlavná vedecká poradkyňa Ministerstva obrany Nového Zélandu a teraz vedúca výskumná pracovníčka Fellow, Univerzita v Aucklande, Nový Zéland.
Najmä ISC Lord Martin Rees, bývalý prezident Kráľovskej spoločnosti a spoluzakladateľ Centra pre štúdium existenčných rizík, University of Cambridge; profesor Shivaji Sondhi, profesor fyziky, University of Oxford; profesor K Vijay Raghavan, bývalý hlavný vedecký poradca vlády Indie; Amandeep Singh Gill, splnomocnenec generálneho tajomníka OSN pre technológie; Seán Ó hÉigeartaigh, výkonný riaditeľ Centra pre štúdium existenčných rizík, University of Cambridge; Sir David Spiegelhalter, Winton profesor verejného chápania rizika, Univerzita
z Cambridge; Amanda-June Brawner, hlavná politická poradkyňa a Ian Wiggins, riaditeľ pre medzinárodné záležitosti, Royal Society, Spojené kráľovstvo; Dr Jerome Duberry, výkonný riaditeľ a Dr Marie-Laure Salles, riaditeľka Ženevského absolventského inštitútu; Chor Pharn Lee, Centrum pre strategickú budúcnosť, Úrad predsedu vlády, Singapur; Barend Mons a Dr Simon Hodson, Výbor pre údaje (CoDATA); profesor Yuko Harayama, bývalý výkonný riaditeľ, RIKEN; profesor
Rémi Quirion, prezident INGSA; Dr Claire Craigová, Oxfordská univerzita a bývalá vedúca foresight, Úrad vlády pre vedu; Prof Yoshua Bengio, Vedecký poradný výbor generálneho tajomníka OSN a Université de Montréal; a mnohí ďalší, ktorí poskytli ISC spätnú väzbu na úvodný diskusný dokument.
Príprava národných výskumných ekosystémov na AI: Stratégie a pokrok v roku 2024
Tento pracovný dokument od think-tanku ISC, Center for Science Futures, poskytuje základné informácie a prístup k zdrojom z krajín zo všetkých častí sveta v rôznych fázach integrácie AI do ich výskumných ekosystémov.
Budovanie vedeckých systémov pripravených na budúcnosť v krajinách globálneho Juhu
Nové technológie menia spôsob, akým sa veda vykonáva, a ponúkajú významný potenciál na posilnenie vedeckých systémov v krajinách globálneho Juhu – ak sa ich prijatie riadi inkluzívnymi, dobre podporovanými a kontextovo citlivými prístupmi. Ústredným bodom tohto nedávneho strategického stretnutia bolo, ako zabezpečiť, aby tieto technológie prispievali k spravodlivejším a odolnejším vedeckým systémom, a nie k posilňovaniu existujúcich rozdielov.
Prečítajte si viac o zverejňovaní informácií o umelej inteligencii vo výskume: smerom ku globálnemu štandardu podávania správ 
Prečítajte si viac o výročnej správe za rok 2025 Prečítajte si viac o článku Smerom k rodovej rovnosti vo vedeckých organizáciách: hodnotenie a odporúčania 
Prečítajte si viac o Maskatskom globálnom znalostnom dialógu 