– KI-detektivene er på feil spor

Studenter risikerer fuskestempel. Forfattere, journalister og forskere havner i gapestokken. 

KI-detektivene er på sporjakt, og verktøyet mange bruker er Pangram. 

Pangram er en KI-detektor som bruker maskinlæring til å vurdere om en tekst er menneskeskrevet eller KI-generert. Resultatene vises i form av en prosentscore, som kan bli til avistitler som "89 % KI-generert". 

Pangram understreker selv at verktøyet ikke gir noen fasit. Likevel sprer KI-avsløringene seg som datavirus.

Bevisbyrden snur

Her hjemme har nettavisa Khrono omtalt flere saker der norske studenter mistenkes for KI-juks, for så å bli frikjent, men kraftig forsinket i studieløpet som følge av "etterforskningen". 

Nylig ble en norsk professor mistenkt for KI-fusk, inntil det viste seg at det var tidskriftet som hadde brukt KI, ikke han.

Særlig Morgenbladet og Manifest Media har gått i bresjen for å avsløre KI-bruk blant profesjonelle skribenter. Tidligere NRK-kommentator Cecilie Langum Becker og sakprosaforfatter Torkil Færø er to av mange som havnet i KI-gapestokken basert på Pangram.

Det går på både rettssikkerheten, tilliten og yrkesstoltheten løs. 

Den britiske professoren Sam Illingworth, som er spesialist på kritisk KI-kompetanse i akademia, er blant KI-detektorenes argeste kritikere. Han peker på utfordringen med at bevisbyrden for juks er i ferd med å snu: Den lå før hos anklager. Nå starter vi med en mistanke og jobber oss bakover. 

Pangram svarer

Det regjeringsoppnevnte Malthe-Sørenssen-utvalget, som rådgir om KI-bruk i høyere utdanning her til lands, har frarådet bruk av deteksjonsverktøyene i sensur nettopp fordi de er vanskelige å etterprøve og kan være upålitelige.

Hvor godt fungerer verktøyet egentlig på norske tekster? 

Jeg spurte selskapet: 

"Vi har evaluert Pangram 4.1 på 11 091 menneskeskrevne bokmålsdokumenter fra nettet og fant null falske positiver i dette datasettet (…)Alle våre menneskeskrevne datasett er eldre enn lanseringen av chatGPT, og det er slik vi garanterer at de er menneskeskrevne. Vi evaluerer foreløpig ikke på nynorsk", svarer Annamieka Aerts, teknisk skribent i Pangram.

Da jeg ba om beskrivelse av datasettet, fikk jeg til svar at de flerspråklige tallene for andelen falske positiver er rapportert på et utvalg av FineWeb-tekst:  

"Så det er stor bredde: Nyheter, lederartikler, blogginnlegg, personlige essays, juridiske dokumenter osv.,hentet fra nettet mellom 2013 og 2020".

Jeg fikk ingen info om studenttekster, men null falske positiver i 11 091 dokumenter er et interessant resultat. Det gir derimot ingen garanti for at verktøyet fungerer like godt på alle typer tekster.

En lav falsk positiv-rate betyr heller ikke at en tekst som flagges, nødvendigvis er KI-generert. 

Hovedutfordringen med KI-detektorene er at brukeren ikke kan se de konkrete sporene og bevisene som ligger til grunn for resultatet.

Ønsker bruk av KI-detektorer på studier

Professor Jill Walker Rettberg ved Universitetet i Bergen (UiB) mener man bør bruke KI-detektorer på studenttekster.

Svart boks

Der detektiver som Sherlock Holmes trekker slutninger ut fra observerbare spor som fotavtrykk eller blodflekker, baserer KI-detektivene avsløringene sine på mønstre i nevrale nettverk som er langt vanskeligere å etterprøve.

Det er ikke uten grunn at nevrale nettverk kalles for svarte bokser.

Vi vet ikke hvilke tekstlige trekk som veier tyngst når Pangram scorer en tekst som «89 prosent KI-generert». Er det uvanlige metaforer, tankestreker, feilfri grammatikk eller fravær av originale vendinger?

En prosentscore kan være et indisium, men når vi ikke får vite hvilke spor den bygger på, er den et syltynt grunnlag for å felle en dom.

Flagger legitim bruk

En studie fra University of Notre Dame, som ble presentert på "AI Leadership Summit" i Atlanta i september, sammenlikner KI-detektorene Pangram og GPTZero.

Forskerne beskriver funnene som en catch-22: Detektorene gir høy flaggrate på helt legitim KI-bruk, som språkvask, mens KI-generert tekst passerer dersom den er kjørt gjennom en såkalt "humanizer" – et KI-verktøy som gjør KI-generert tekst mer menneskelig.

Mer enn 96 prosent av de KI-merkede omskrivningene unngår å bli fanget opp av Pangram og GPTZero, hvis teksten er kjørt gjennom en "humanizer" først, ifølge studien. 

Ja, du leste riktig. Jakten på KI-genererte tekster ved hjelp av KI-detektorer har skapt marked for nye KI-verktøy.

Nytt KI-kappløp

På ett år har Pangram vokst fra 2 700 til 120 000 månedlige brukere. Samtidig fikk 43 verktøy som menneskeliggjør KI-genererte tekster 33,9 millioner nettsidebesøk på en enkelt måned, ifølge NBC News.

Studenter som aldri har brukt KI i oppgavene sine, kjører nå arbeidet sitt gjennom humaniseringsverktøy for å unngå falske positive utslag på KI-generering.

Særlig studenter som ikke har engelsk som førstespråk er stresset, da det har vist seg at generisk språk øker risikoen for å bli flagget feil. 

Gratis å bruke er verktøyene selvsagt ikke. Et bedriftsabonnement på Pangram koster 65 USD, en "humanizer" rundt 50 USD.

Det er et nytt KI-kappløp på gang: Detektorene må bli bedre på å avsløre KI og bruk av "humanizers", mens "humanizerne" kjemper for å gå under radaren til KI-detektorene. 

Pangram tilbyr nå API-kreditter til forskere. Ifølge Annamieka Aerts gjelder dette også Norge: "Vi vil gjerne ha flere, mer omfattende eksterne evalueringer av norsk". 

Hvor skal dette ende? 

Mer åpenhet

Moralisering, gapestokk og avsløringer basert på spor i en svart boks hjelper oss neppe den dagen det blir umulig å skille mellom maskin- og menneskeskrevet tekst. Den dagen kan komme raskere enn vi tror.

Derfor haster det med å få diskusjonen om KI i tekst over på et nytt spor. 

Det er ikke bærekraftig, verken for miljøet eller vår egen tenkning, å bruke KI for å slippe å reflektere og skrive selv. Skribenter som bruker KI til å generere tekst bør derfor stå til ansvar for hvordan de bruker teknologien.

Men det er forskjell på å kritisere arbeidsmetoden og å henge ut en person på grunnlag av en KI-detektors prosentscore. 

Sam Illingworth tar til orde for mer åpenhet rundt arbeidsprosessene. Hvordan bruker vi KI underveis i research, sparring, strukturering, kildearbeid og redigering? 

Med økt fokus på ansvarlig KI-bruk kommer vi oss forhåpentlig ut av villsporet med å bruke KI for å avsløre KI, for så å bruke KI for å skjule at vi har brukt KI.

Aftenposten: SV vil begrense KI, men bruker det mest

112 av 325 stortingsforslag har det siste året inneholder KI-generert tekst, ifølge en kartlegging Aftenposten har gjort. SV bruker KI mest.

Til info: Siden kommentaren handler om KI-bruk og KI-deteksjon, har jeg eksperimentert litt ekstra med Claude og ChatGPT underveis. Jeg har diskutert  struktur, kilder og resonnementer. Refleksjonene er mine, all kildekontroll er gjort av meg og jeg har skrevet teksten selv. Ingenting er klippet og limt direkte fra en chat. Som en test, ba jeg Claude kutte ned antall ord og foreslå en ny versjon. Teksten ble platt og altfor generisk, og ga dessuten 100 prosent score som "KI-generert" i  Pangram. Jeg har kjørt denne artikkelen også gjennom Pangram. Den ga 100 prosent score som "menneskeskrevet", selv om jeg har sparret med KI underveis. For meg ble dette nok en bekreftelse på at debatten må inn på et nytt spor.