Advarer mot KI sin «eksplosjon av løsninger – og dermed av feil»

«Nå vil ingenting være umulig for dem, uansett hva de bestemmer seg for å gjøre.» 

1. Mosebok 11,6

Som teknologer er vi drevne problemløsere, og vi stiller kompetansen vår til rådighet i en verden som er full av problemer.

Med et slikt utgangspunkt risikerer vi ikke å kjede oss. Problemløsing gir oss dessuten mening, identitet og et levebrød («more problems, more money»).

Skyggesiden er at problemene aldri tar slutt. Arbeidet blir aldri ferdig. 

Som med strømming

Vi kan hente trøst i Mark Watneys leveregel i «The Martian»: «If you solve enough problems you get to come home.» 

Men innerst inne vet vi bedre. En løsning er sjelden slutten på arbeidet. Den flytter problemet eller avdekker nye.

Det bittersøte ved løsninger er det de avslører:

• Kamerarullen: Når det ikke koster noe å ta bilder, tar jeg mange flere enn jeg trenger og ser sjelden på dem igjen.
• Strømmetjenestene: Når nesten alt er tilgjengelig hele tiden, bruker jeg mer tid på å velge og mindre tid på å se. Innholdet er blitt billig; oppmerksomheten er blitt dyr.
• GPS-en: Når navigasjonen gjøres for meg, slutter jeg å vedlikeholde retningssansen.

Kunstig intelligens samler flere slike effekter i én teknologi: Vi kan produsere mer enn vi klarer å forvalte, få flere forslag enn vi klarer å vurdere, og gradvis miste ferdighetene vi trenger for å kontrollere resultatene.

- Jeg blir litt oppgitt over denne «Morna, koding!»-holdningen

Teknisk leder Mikael Åsbjørnsson-Stensland er oppgitt over utvikleres holdning til AI-koding.

Flere løsninger, flere feil

Med KI står vi overfor en kambrisk eksplosjon av løsninger – og dermed av feil, avhengigheter, vedlikeholdsbehov og angrepsflater.

Dette blir særlig tydelig innen cybersikkerhet. KI kan hjelpe oss med å avdekke sårbarheter og skrive sikkerhetsoppdateringer raskere. Angripere kan bruke den samme kapasiteten til å finne svakheter og tilpasse angrep raskere.

Også programvareutvikling er i omveltning. Når KI gjør det billigere å skrive kode, flytter flaskehalsen seg fra kodeproduksjon til dømmekraft.

Da blir det desto viktigere å beskrive problemet presist, gi relevant kontekst og formulere krav og begrensninger. Noen må fortsatt velge en forsvarlig arkitektur, etterprøve resultatet og ta ansvar for det som settes i produksjon.

– Vi trenger et regnskap for koden ingen forstår

Flaskehalseffekten og kvelningsfornemmelsen er reell. Situasjonen er ikke helt ny, da man alltid har hatt kode ingen helt tør å ta i. Men agentisk koding gjør problemet mye mer akutt.

Gode råd blir dyre

En kodebase kan være versjonsstyrt, grundig dokumentert og bestå alle tester – og likevel være eierløs i praksis dersom ingen kan forklare hvorfor løsningen er riktig, eller hvilke antakelser den bygger på.

KI er derfor ikke bare en multiplikator av vår kapasitet. Den er også en multiplikator av vår egen utilstrekkelighet. Den forsterker både det vi kan, og konsekvensene av det vi ikke forstår.

Vi har automatisert problemproduksjonen.

Når svarene blir billige, blir evnen til å stille gode spørsmål og forkaste dårlige svar den knappe ressursen. Da blir gode råd dyre. 

Som i fortellingen om Babel kan løsningene tårne seg opp mens den felles forståelsen bryter sammen.

Derfor har «alle» plutselig kjøpt seg Nvidia DGX Spark

Den lille, men dyre, maskinen hjelper norske utviklingsavdelinger med KI-arbeidet. – Vi kaller den «fotfila».