Ber utviklere fortsatt bruke KI, tross varsler

Det er lett å bli revet med av overskrifter om at kunstig intelligens vil utrydde menneskeheten.

Som ny avdelingsleder for AI i Computas mener jeg det ikke handler om å avfeie faren, men om å skille mellom risikoen AI-gigantene må løse, og ansvaret vi har for forsvarlig bruk i dag.

Ikke vårt ansvar

Overskrifter om at «KI kan drepe oss» treffer kanskje klikk-nerven, men i utviklerhverdagen oppleves denne type angst ofte frikoblet fra den praktiske virkeligheten vi står i.

Anthropic-sjefen: – Vi må senke tempoet

Viser til at KI er i ferd med å utvikle seg selv, og bryter ut av testmiljøene.

Misforstå meg rett: Dommedagsprofetiene er ikke tatt ut av luften, og advarslene om eksistensiell risiko ved trening av frontier-modeller er en høyst reell fare. AI-gigantene og forskningsmiljøene må ta treningssikkerhet og alignment på dypeste alvor.

Men dette er utfordringer vi som integrerer og bruker modellene uansett ikke får gjort noe med fra våre utviklerstoler. Vårt ansvar handler om hva vi gjør med teknologien når den nå er her.

Å nekte å ta i bruk AI i dag fordi teknologien i sin ytterste konsekvens kan være farlig, blir som å nekte å bruke en kniv fordi den kan brukes som et våpen. Løsningen er ikke å legge vekk kniven, men å bruke den riktig – og med respekt.

Balansere frykt og fag

Min forgjenger Simon skrev tidligere her på kode24 om faglige utfordringer innen AI. Når jeg nå nylig har tatt over rollen som ny avdelingsleder for AI-avdelingen i Computas, er det med én klar prioritet for veien videre:

Vi må være de voksne i rommet.

Etter mange år med bakgrunn som utvikler og teknisk arkitekt, og med erfaring fra store, tunge utviklingsprosjekter, ser jeg daglig hvordan kunstig intelligens endrer faget vårt. Å være den voksne i rommet handler om å balansere hypen og frykten med faglig edruelighet.

Støre tar KI-advarsler på alvor

– Hadde det vært tre ledere av selskaper fra militærindustrien som sa de var i ferd med å miste kontroll på det de produserte, så hadde vi jo grepet inn, sier statsminister Jonas Gahr Støre (Ap) om den siste tidens dommedags-profetier.

AI i sin «ferdige» form – som verktøy og byggeklosser i systemene våre – gir allerede enorm samfunnsverdi.

Dette koker ned til to ting i praksis:

1. Vi må ikke la frykt stoppe verdiutvikling: I offentlig sektor og helsevesenet redder godt anvendte algoritmer og automatisering liv og frigjør ressurser til oppgaver der mennesker trengs mest. Å trekke i nødbremsen og avstå fra verdiskaping av frykt for fremtidige skrekkscenarioer, er dårlig samfunnsøkonomi.

2. Vi må slutte å late som om AI er magi: Det som faktisk utgjør en fare i vår hverdag nå, er uansvarlig bruk. Det handler om manglende datakvalitet, hallusinasjoner i kritiske beslutningssystemer, mangel på sporbarhet, og at utviklere fristes til å godta kodesnutter fra copiloter uten å forstå arkitekturen bak.

– Å bruke KI er som å gå med bloddiamant

Etikkforsker mener måten kunstig intelligens trenes på, gjør teknologien uetisk.

Kjedelige, men avgjørende, spørsmål

Når forskere roper varsku om dommedag, bør ikke vårt svar som bransje være å gjemme oss. Vårt svar må være forsvarlig bruk og godt håndverk.

Som utviklere, arkitekter og fagledere må vi stille de kjedelige, men helt avgjørende spørsmålene:

• Hvor kommer treningsdataene fra?

• Hvordan sikrer vi personvernet og sikkerheten i dette API-et?

• Hva er fallback-planen når modellen tar feil?

• Og har vi kontroll på arkitekturen når systemet skal skaleres?

La forskerne og AI-gigantene ta ansvaret for å sikre selve motoren og håndtere den eksistensielle risikoen. I mellomtiden skal vi som bygger løsningene fortsette å bruke AI til å skape verdi – med stødig hånd, solid arkitektur og sunn fornuft.

– Norge setter av 10 ganger mer kraft enn vi trenger

Lars Erik Finholt har regna ut hvor mye strøm vi trenger om hele Norge bruker KI. Det er mye mindre enn vi setter av til nye datasentre. – Så hva får Norge igjen for kraften?