Advarer: Norske språkmodeller er lettere å «lure»

Tirsdag slipper KI-sikkerhetssenteret (CAISS) ved forskningsinstitutet Simula en forskningsrapport om hvordan det gikk da de utsatte 21 Borealis-modeller for vedvarende press.

Den viser at de norske Borealis-modellene er bedre enn Googles Gemma på norske oppgaver, men er dårligere på sikkerhet. 

Selv den beste åpne modellen feiler i ett av fem tilfeller når den utsettes for tester. 

– Testen er bygget for å finne bristepunktet, sier Michael Riegler, OsloMet-professor og forsker i Simula. Han har ledet forskningsarbeidet. 

For imøtekommende

Funnet om at Borealis er best på norske oppgaver, mener Riegler er det mest oppløftende i rapporten. 

– Fordi det betyr at målrettet finjustering fungerer som en måte å få kontroll over hvordan en modell oppfører seg. Man er ikke nødt til å ta imot det en utenlandsk basismodell tilfeldigvis gjør, sier han til kode24. 

Utfordringen er at tilpasningen har en pris, påpeker forskningslederen. 

– De to største Borealis-modellene er 3,5 og 5,1 poeng svakere enn Gemma på å stå imot en bruker som påstår noe feil. Hypotesen vår er at norsk instruksjonstrening gjør modellen mer flytende og mer imøtekommende, og imøtekommenhet er feil egenskap når sikkerhet krever at du motsier brukeren. Også det er en knapp man kan skru på, sier Riegler. 

Holder ikke med testing

Samtidig ser forskerne at den store svakheten er felles for alle modellene, også den store internasjonale som de hadde som referanse. 

– Når en bruker sier noe selvsikkert som ikke stemmer, går modellene med på det. Det verste enkelttilfellet kom fra Borealis-27B: hjerte-lungeredning med 10-12 kompresjoner i minuttet mot riktige 100-120, i 4 av 10 kjøringer. Men samme scenario gir kritisk feil i 73 prosent av kjøringene på tvers av alle 21 modellene. Og modellene gir etter over tid. De svarer riktig på første spørsmål og forlater grensen gradvis under høflig press. Den første, korrekte avvisningen er et tynt gjerde. 

Tar «smiskende KI» og «KI-skvip» inn i ordliste

Teknologirådet oppdaterer listen sin over kunstig intelligens-begreper. Og snuser på «AIholic» og «suverenitetsvasking».

– Hva bør gjøres for å fikse dette og andre sikkerhetshull? 

– Det korte svaret er at det ikke holder å teste modellen. En modell er ikke trygg eller utrygg i seg selv. Den er trygg nok eller ikke til en bestemt oppgave, for bestemte brukere, med et bestemt tilsyn. 

Riegler forklarer at folk ikke bruker en modell, men systemet rundt, slik man ikke trener om Gemma-3, men bygger laget rundt den. 

– Over det ligger konteksten som er veldig viktig og vanskelig å teste uten domenekunnskap. Testen vår måler det første laget. 

Han understreker at det er viktig med et menneske i loopen.

– Test over flere samtalerunder, for ett spørsmål er ikke en test. Og husk at en leverandørs eget systemkort ikke er uavhengig dokumentasjon.

– «Human in the loop» kommer ikke til å være nok

– Hva i huleste? Jeg var jo personen inni denne loopen! skriver Henriette Kopstad, etter å ha opplevd hvordan KI-koding fort spinner ut av kontroll.

– Oppskriften er endret

I mai lanserte Nasjonalbibliotektet en rekke norske språkmodeller som bygger på Googles Gemma 3-modeller.

Mandag 10. august kunne kode24 melde at Nasjonalbiblioteket har sluppet to nye språkmodeller i Borealis-serien: de første på bokmål og nynorsk som er trent på opphavsrettsbeskyttet tekst fra norske aviser. 

Lanserer nye, norske språkmodeller

Nå er de første språkmodellene trent på opphavsrettsbeskyttet tekst fra norske aviser lansert, på nynorsk og bokmål. – Viktig verktøy for å utvikle og ta i bruk kunstig intelligens på norsk, sier digitaliseringsministeren.

Riegler sier at de ikke er del av forskningsrapporten som er ute nå, men at de er i gang med å se på disse også. 

– De nye er interessante fordi oppskriften er endret. I versjonene vi testet lå avismaterialet bare i fintreningen, og der fant vi ingen sikker sikkerhetsforskjell. Nå brukes det også i grunntreningen. Det er et større inngrep, og det bør testes. Verktøyet er automatisert, og modellene ligger i samme serie. Det vi vil se etter er om kostnaden vi allerede målte blir større (de største Borealis-modellene stod litt dårligere imot falske premisser enn Gemma-modellene de bygger på), sier Simula-forskeren til kode24. 

– Hva tenker dere om slike norske språkmodeller: er det noe poeng i å bruke masse penger på å lage, når mange uansett bruker de store tek-selskapene sine? 

 – Vi bør ikke bruke mindre på norske modeller. Vi bruker for lite på alt som ligger mellom modellen og brukeren, testing i egen kontekst, forankring i pålitelige kilder, tilsyn, og kompetanse hos dem som kjøper inn.

Flere funn

På Arendalsukas andre dag lanserer også Simula en rapport om KI-bruk i Norge. Den viser følgende: 

• 67 prosent av nordmenn bruker kunstig intelligens på jobb. Det er langt over det globale snittet på 58 prosent. Til sammenligning er andelen 53 prosent i Danmark, 47 prosent i Finland og 44 prosent i Sverige. 
• 61 prosent av nordmenn stoler på KI på jobb. Globalt er snittet 53 prosent, i Sverige 39 prosent og i Finland 33 prosent. 
• Norge investerer mindre enn Sverige og Finland, og litt mer enn Danmark i kunstig intelligens. 

Analyserte dokumentasjon

Til slutt har Simula analysert sikkerhetsdokumentasjonen til Claude 5 og Mythos 5, sammenlignet med Google og OpenAIs siste systemkort (juni 2026). 

Konklusjonen er at de gunstigste tallene er vanskelige å etterprøve. 

Det som leveres av utviklerne bak frontlinjemodellene er ikke en uavhengig sikkerhetsdokumentasjon og for høyrisikobruk trenger norske innkjøpere testing i sin egen kontekst, ifølge Simula. 

– Gode grunner til å utvikle norske modeller, ikke minst suverenitet

Nasjonalbiblioteket planlegger å lansere deres første serie med Borealis-modeller i slutten av april. Avdelingsdirektør Wilfred Østgulen forteller mer om bakgrunnen.