Går ut mot regulering av KI: – Må styrke forsvar, ikke begrense teknologi
Zack Korman jobber daglig med sikkerhet for KI-agenter, men tror hverken på dommedag eller regulering.
Publisert
– KI-doomere er for det meste genuine i sin tro. Men det betyr ikke at de har rett.
Det sier Zack Korman til kode24. Han er CEO i Oslo-selskapet Embroidery, som han nylig starta sammen med Carina Eikaas og Kasper Rynning-Tønnesen.
Den utflyttede amerikaneren har uttalt seg om KI-sikkerhet og dommedags-profetier i aviser som TechCrunch, The New York Times, NBC News og The Washington Post.
For i Embroidery jobber han nettopp med sikkerhet for KI-agenter, for å unngå at de gjør ting de ikke bør. For eksempel hacker andre selskaper, slik vi har sett med blant annet OpenAIs angrep på Hugging Face, eller, du vet – utsletter menneskeheten.
For sikkerhetsutfordringene rundt KI har den siste tida gitt såkalte «AI doomers» vann på mølla, og fått alt fra Anthropic-sjefen til Jonas Gahr Støre til å rope etter mer regulering av bransjen. KI står også høyt på agendaen på FNs generalforsamling denne uka.
Men Korman, som jobber daglig med dette, tror hverken på dommedag eller regulering.
Kjøper ikke dommedag
Korman påpeker at det lenge har vært grupper som har vært bekymra for at menneskeheten utslettes av KI. Og når disse folka ser at KI hacker Hugging Face og angivelig løser Navier-Stokes-matteproblemet, ser de endetiden nærme seg.
– Men dette er akkurat som når veldig religiøse personer, som tror det blir en oversvømmelse før dommedag, ser på alle stormer som et tegn på slutten av verden. De tror det på ekte, men de tar fortsatt feil, mener Korman.
Han mener dommedagsgjengen er redde for at KI skal forbedre seg selv så raskt at vi får en eksplosjon av intelligens, som ender med en gud-aktig KI. Nøyaktig hvordan dette i neste omgang skal føre til menneskhetens utslettelse, slik mange advarer mot nå, er dommedagsgjengen noe mer vage rundt.
– Hvis KI-en blir gud-aktig, finner den en måte å utslette oss på som vi ikke kan forstå med våre bondehjerner. Det er er argumentet, mener Korman, som ikke tror på dette scenarioet.
Dommedags-truslene de advarer mot, er uansett allerede regulert. Du får ikke lov til å drepe folk. Du får ikke lov til å hacke selskaper.
Mer sikkerhet, ikke regulering
At KI kan være en risikabel teknologi å bruke, ser vi stadige eksempler på. Norske utviklere frykter feil i KI-generert kode de aldri oppdager, og problemene KI-selskapene har hatt med agenter som løper løpsk, kan skje flere.
Dette bekymrer Korman, også, og er hele poenget med selskapet hans. Men han mener vi bør være opptatt av langt mer nærliggende farer, som potensielt også kan ta liv i nær framtid – men ikke utslette oss.
– Dommedagstruslene de advarer mot, er uansett allerede regulert. Du får ikke lov til å drepe folk. Du får ikke lov til å hacke selskaper, sier Korman.
– Så hva bør skje nå da, for å sikre en trygg framtid med KI?
– Det finnes ingen garanti for sikkerhet. Å pause utviklingen er ikke sikkert. Å øke farta er ikke sikkert. Å «pace the frontier», hva nå enn det betyr, er ikke sikkert. Det er risiko overalt, det er bare sånn det fungerer. Måten å beskytte oss på er å styrke forsvaret, ikke å begrense teknologien, sier Korman.
For den største risikoen rundt KI i dag, mener han, er ikke KI som på eget intiativ angriper oss, men trusselaktører som bruker teknologien, og uansett ikke bryr seg om internasjonal regulering.
– Norge bør heller fokusere på å styrke cyber-forsvaret sitt i all kritisk infrastruktur, og anerkjenne at trusselbildet har endra seg, sier Korman til kode24.
– Og jeg vedder på at norske myndigheter bruker KI på noen veldig risikable og dårlig kontrollerte måter i dag, med enda mindre synlighet enn hva OpenAI hadde da de hacka Hugging Face. Å fikse det, vil gjøre mye mer forskjell enn møter og oppfordringer om internasjonal regulering.
Problemet med regulering
Men hva er egentlig problemet med regulering av KI-selskapene, slik mange nå tar til orde for?
Blant annet, mener Korman, fordi:
All frykten rundt dommedag er bare tull.
Trusselaktører utgjør den største faren, ikke teknologien.
Dagens lovverk forbyr deg uansett å bruke teknologien til skadelige formål.
Regulering av KI vil aldri gjøre den trygg, da risiko alltid vil finnes overalt.
Vi burde heller bry oss om å øke sikkerheten vår generelt.
Regulering kan dessuten gjøre vondt verre.
Amerikaneren viser for eksempel til Anthropic-sjef Dario Amodei sitt forslag om sertifiseringer av språkmodeller, hvor en modell skal ha den og den sertifiseringen om modellen har den og den egenskapen.
– Dette er en enorm risiko, fordi det tar ansvaret for sikkerheten bort fra KI-laboratoriet, og gjør dem bare ansvarlige for å bestå sertifiseringene. Det er dumt, tror han.
Men én form for regulering støtter han: Krav om innsikt i hva som faktisk har skjedd, når uheldige hendelser oppstår. Han ser for seg et krav om publisering av agentenes spor ved slike hendelser, såkalte agent traces, så ikke KI-selskapene selv får skrive historien om agentenes eventyr, uten mulighet for å ettergå den.
– Dette ville også gjøre slike hendelser mindre sannsynlige, tror Korman.
– For å gi ut dette, ønsker de ikke.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
