Pred samitom AI Safety Summit 2023 ISC vydáva diskusný dokument o rámci hodnotenia AI a rýchlo sa rozvíjajúcich digitálnych technológií.

Viacerí akademici a experti na politiku navrhli, aby Medzinárodná vedecká rada – so svojím pluralistickým členstvom zo sociálnych a prírodných vied – vytvorila proces tvorby a udržiavania anotovaného rámca/kontrolného zoznamu rizík, výhod, hrozieb a príležitostí. spojené s rýchlo sa rozvíjajúcimi digitálnymi technológiami, vrátane, ale nie výlučne, AI. Účelom kontrolného zoznamu by bolo informovať všetky zainteresované strany – vrátane vlád, obchodných vyjednávačov, regulačných orgánov, občianskej spoločnosti a priemyslu – o možných budúcich scenároch a zadefinovať, ako by mohli zvážiť príležitosti, prínosy, riziká a iné problémy.

Diskusný dokument ISC

Rámec na hodnotenie rýchlo sa rozvíjajúcich digitálnych a súvisiacich technológií: AI, veľké jazykové modely a ďalšie

Tento diskusný dokument poskytuje náčrt počiatočného rámca na informovanie mnohých globálnych a národných diskusií týkajúcich sa AI.

Stiahnuť ▼

Pripojte sa k diskusii

Odporúčame vám zapojiť sa do diskusie o myšlienkach prezentovaných v tomto dokumente ao jeho rámci pomocou formulára v spodnej časti stránky.

ISC s potešením predstavuje tento diskusný dokument o hodnotení rýchlo sa rozvíjajúcich digitálnych a súvisiacich technológií. Umelá inteligencia, syntetická biológia a kvantové technológie sú hlavnými príkladmi inovácií, ktoré sú založené na vede, ktoré sa objavujú bezprecedentným tempom. Môže byť náročné systematicky predvídať nielen ich aplikácie, ale aj ich dôsledky.

Hodnotenie spoločenských aspektov generatívnej umelej inteligencie, ako sú veľké jazykové modely, ktoré predvídateľne predstavujú väčšinu tohto diskusného dokumentu, je potrebným mostom v rámci súčasného diskurzu – niekedy poháňaného panikou, inokedy nedostatočne premysleného – a nevyhnutných kurzov opatrenia, ktoré môžeme podniknúť. ISC je presvedčená, že je potrebný analytický rámec medzi spoločenskou akceptáciou takýchto nových technológií a ich možnou reguláciou, aby sa uľahčili diskusie viacerých zainteresovaných strán, ktoré sú potrebné na prijímanie informovaných a zodpovedných rozhodnutí o tom, ako optimalizovať sociálne výhody tejto rýchlo sa rozvíjajúcej technológie.

ISC je otvorené reakciám našej komunity prostredníctvom tohto diskusného dokumentu s cieľom posúdiť, ako najlepšie pokračovať v diskusii o technológii a prispievať do nej.

Salvatore Aricò, generálny riaditeľ

Prispievatelia do novín:

Pri tvorbe tohto dokumentu, ktorý vypracovala spoločnosť Sir Peter Gluckman, prezident ISC a Hema Sridhar, bývalý hlavný vedecký pracovník ministerstva obrany a teraz vedúci výskumný pracovník Aucklandskej univerzity na Novom Zélande. 

Zvlášť ďakujeme:

• Lord Martin Rees, bývalý prezident Kráľovskej spoločnosti a spoluzakladateľ Centra pre štúdium existenčných rizík, University of Cambridge;
• profesor Shivaji Sondhi, profesor fyziky, University of Oxford;
• profesor K Vijay Raghavan, bývalý hlavný vedecký poradca indickej vlády;
• Amandeep Singh Gill, splnomocnenec generálneho tajomníka OSN pre technológie;
• Dr Seán Óh Éigeartaigh, výkonný riaditeľ Centra pre štúdium existenčných rizík, University of Cambridge;
• Amanda-June Brawner, hlavná politická poradkyňa a Ian Wiggins, riaditeľ pre medzinárodné záležitosti, Royal Society UK;
• Dr. Jerome Duberry, Dr. Marie-Laure Salles, riaditeľka Ženevského inštitútu pre absolventov;
• pán Chor Pharn Lee, Centrum pre strategickú budúcnosť, Úrad predsedu vlády, Singapur;
• Barend Mons a Dr Simon Hodson, Výbor pre údaje (CoDATA);
• profesor Yuko Harayama, Japonsko;
• profesor Rémi Quirion, prezident, INGSA;
• Dr Claire Craigová, Oxfordská univerzita a bývalá vedúca foresight, Úrad vlády pre vedu; a
• Profesor Yoshua Bengio, Vedecký poradný výbor generálneho tajomníka OSN a Université de Montréal.

Čo sa ešte deje v AI na ISC?

Think tank ISC, Centrum pre budúcnosť vedy, má začiatkom roka 2024 zverejniť pracovný dokument na tému „Príprava vedeckých ekosystémov na umelú inteligenciu“. Dokument bude obsahovať prehľad literatúry, mapu problémov a sériu krátkych prípadových štúdií krajín. Dúfame, že tento dokument prispeje k diskusii medzi tvorcami politík, lídrami v odvetví a výskumníkmi pri vytváraní plánov na využitie potenciálu AI na zlepšenie vedy a výskumu.

Umelá inteligencia pre vedu: pohľady z Ázie a Tichomoria 

Začiatkom októbra ISC Center for Science Futures označilo kľúčový moment vo svojej najnovšej iniciatíve o umelej inteligencii (AI) pre vedu, keď sa 14 vážených delegátov a expertov zastupujúcich 12 krajín, prevažne z Ázie a Tichomoria, zhromaždilo na včasnom stretnutí v r. Kuala Lumpur, Malajzia s podporou Austrálskej akadémie vied. ➡️Rviac

AI mení vedu – ako? Kto by sa mal obťažovať?

Kritický pohľad na vplyv umelej inteligencie (AI) na vedu z rôznych uhlov pohľadu a aktérov – od verejných donorov až po súkromné ​​high-tech inštitúcie – odhaľuje spoločné obavy z nedostatku transparentnosti a spolupráce pri vytváraní prístupu, ktorý by bol viac zameraný na človeka. splniť prísľub vedy ako globálneho verejného statku. ➡️Rviac

Spätná väzba AI

Ak chcete vyplniť tento formulár, povoľte vo svojom prehliadači JavaScript.

Meno *

Prvá stránka

Posledný

E-mail *

organizácie

Pozícia v organizácii

Rod *

• Žena
• Muž
• ostatné
• preferujem nehovoriť

V ktorej krajine sídlite?

Povedzte nám svoje myšlienky o diskusnom dokumente ISC „Rámec pre hodnotenie rýchlo sa rozvíjajúcich digitálnych a súvisiacich technológií: AI, veľké jazykové modely a ďalšie“

Povedzte nám svoje myšlienky o vývoji analytického rámca a rozmeroch, ktoré ISC navrhuje

Ochrana údajov: Respondenti by si mali byť vedomí toho, že ISC bude uchovávať predložené informácie počas trvania iniciatívy (pozri: https://council.science/privacy-policy)

• Respondent súhlasí so zberom údajov.

Pozývame vás na odber bulletinu ISC.

• Súhlasím so zasielaním Newslettera ISC. Z odberu sa môžem kedykoľvek odhlásiť

Odoslať

Obrázok: adamichi na iStock