Støre og Stubb vil sikre internasjonal kontroll over KI

Statsminister Jonas Gahr Støre (Ap) og Finlands president Alexander Stubb står bak et initiativ for å sikre internasjonal kontroll over kunstig intelligens (KI).

Et opprop lanseres mandag i forbindelse med høynivåuka til FNs generalforsamling.

– Vi må få bedre kontroll på de mest avanserte KI-modellene. KI er en ekstremt kraftig teknologi med stort potensial, men den kan også utgjøre en betydelig sikkerhetsrisiko, sier Støre til NTB.

«Vi må handle nå» er hovedbudskapet i oppropet.

– KI er den teknologien som vil få størst betydning i menneskehetens historie. Den vil påvirke vitenskapen, politikken, sikkerheten og hvordan vi er som mennesker. Mennesker kan og bør sitte i førersetet, sier Stubb.

– Vi har et valg: Vi kan konkurrere, samarbeide eller bremse utviklingen. For meg er samarbeid den beste veien videre, slår han fast.

Mange advarsler

Den siste tiden har flere KI-forskere og eksperter advart kraftig om at den hyperraske utviklingen kan få uante konsekvenser. Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen.

– Oppropet sier egentlig to ting: Selskapene må ta ansvar og ha rutiner for intern kontroll, intern inspeksjon og muligheten for å stoppe og varsle om utvikling som kan være farlig.

– Det andre er at vi trenger et internasjonalt samarbeid om felles standarder, åpenhet og deling av rapportering om alvorlige sikkerhetshendelser som kan treffe landene, sier Støre til NTB.

Han var søndag på vei til Canada for samtaler med statsminister Mark Carney om saken.

Ideen om et felles opprop kom for en uke siden på en middag med europeiske ledere i Rovaniemi i Finland, der Arktis sto på menyen. Der ble Støre og Stubb enige om å fronte saken.

– Vi tror dette oppropet vil få stor oppmerksomhet, og det er bra, sier Støre.

Stor uenighet om dommedag-varsler

KI-«gudfar» tror det er 10 prosent sjanse for at KI dreper menneskeheten. – Komplett løgn, sier Nvidia sjef Jensen Huang om narrativet om dommedag.

Hektisk telefonering

Den siste uka har det vært hektisk telefonvirksomhet med land i øst, vest, sør og nord. Målet er å samle så mye støtte som mulig under FNs høynivåuke i New York.

Til nå har blant annet ledere av en rekke EU-land samt EU-kommisjonens leder Ursula von der Leyen, og ledere fra blant annet Canada, Australia, Kenya, De forente arabiske emirater, Tyrkia, Singapore og Sør-Afrika undertegnet oppropet.

– FNs generalsekretær António Guterres snakket jeg med for to dager siden, og han hilste dette velkommen. Og han kommer nok til å ha dette som et av sine viktige punkter i talen sin til FN, sier Støre.

– Hvor sannsynlig er det at man kan få gjennomslag for et sånt tiltak når ledere som Donald Trump har avvist behov for mer regulering?

– Jeg tror at sånne nye utfordringer aldri er enkle å møte. Men man kan ikke begynne med å gi opp, sier Støre.

Dyp uro

Han erkjenner imidlertid at veien fram til tiltak avhenger mye av hva Kina og USA gjør.

– Men også der er det dyp uro for det destruktive potensialet til KI, sier han og trekker en parallell til atomteknologien.

– Den kan både gjøre fantastiske ting, som å skape kraft, men den kan også være et farlig våpen. Derfor fikk vi ikkespredningsavtalen, og det ble opprettet en organisasjon, IAEA, som har rutiner, sikkerhet og kontrollmekanismer som gjør verden tryggere.

– Hvordan vil dere ta denne saken videre – hvem skal ha ansvaret?

– Det vil jeg ikke konkludere på nå. Om det skal skje innenfor rammen av FN, eller om det skal skje mer regionalt, det må tiden vise.

– Men jeg vet at G7 under fransk ledelse jobber med ideer til hvordan dette kan tas videre. Får du enighet i G7, så er jo USA inne, påpeker Støre.

OpenAI og Microsoft innrømmer tyveri og «doom loop»

Microsoft kaller treningsmaterialet for «det største tyveriet av arbeidskraft i menneskehetens historie», avslører dokumenter. Nå kan tyveriet grave deres egen grav.