Bekymret for at KI erstatter pensum
– Når «AI-slop» truer med å fortrenge reell innsikt, må forlagene ta tilbake rollen som samfunnets kvalitetsfilter, skriver Ronny Ellefsen, og håper fagbøkene tilgjengeliggjøres.
I en reportasje på NRK fortalte nylig studentene Ronja Løtveit og Ida Synnøve Sunde om et valg de neppe er alene om:
De bruker ChatGPT som et alternativ til pensumbøkene.
Det er lett å se hvorfor: AI-en er gratis, umiddelbart tilgjengelig, og forklarer komplekse emner på en måte som føles enklere enn å fordype seg i 500 sider med anatomipensum.
Utfordringen ligger i skillet mellom sannhet og sannsynlighet.
Fatale feil
Som en transformer-modell, er ikke ChatGPT en ekspert – den er trent til å forutsi det mest sannsynlige neste ordet i en setning, i en sammenheng basert på enorme tekstmengder skrapet fra hele Internet.
En slik språkmodell vet ikke hva som er faktabasert eller hva som er vas; så den gjetter, basert på hvor stor sannsynlighet det er for at disse ordene henger sammen.
Og det fungerer jo imponerende bra, helt til det ikke gjør det.
Tenk deg at en medisinstudent spør: «Hva er rollen til mitokondrier i cellen?»
Språkmodellen svarer gjerne selvsikkert: «Mitokondrier er cellenes kraftverk og produserer energi ved å konvertere glukose direkte til ATP i mitokondrienes matriks.»
Forklaringen virker akademisk og presis, men den er egentlig litt feil. Du ville kanskje ha lagt merke til at energiproduksjonen ikke skjer "direkte" i matriksen, og glukose må gjennom flere biokjemiske trinn før ATP lages.
Feilen er jo liten, men avgjørende, for en student uten fagkompetanse høres det riktig ut. Og for en som skal bruke kunnskapen i praksis, kan det være fatalt.
For en som skal bruke kunnskapen i praksis, kan det være fatalt.
Tilgjengeliggjør kunnskapen, ikke papiret
Karl Philip Lund ved Høyskolen Kristiania sier at bokbransjen står der musikkbransjen sto i 2008, før Spotify.
Men streaming løste ikke piratkopiering ved å forby fildeling; i samarbeid med musikkbransjen ga de lovlig tilgang enklere som ble mer attraktivt enn å laste ned innhold ulovlig.
Forlagene kan gjøre noe lignende, men da må de tenke mer på verdien i innholdet for dem som skal bruke det, og ikke på formatet.
Se for deg et system der lærebøker ikke er låst i en bok eller en PDF, men tilgjengelige som strukturerte kunnskapskilder; søkbare, siterbare og kvalitetssikrede.
Når en student stiller et faglig spørsmål, kan en lisensiert AI svare: «Ifølge Medisin 2024, kapittel 3, er energiproduksjon i celler delt mellom cytoplasma og mitokondrienes indre membran...»
Slik lærer studenten det riktige, og forlaget kan bli kompensert.
Med loven som bremsekloss
AI har vært tilgjengelig i flere år, og norske forlag utforsker naturligvis mulighetene.
Flere forlag fokuserer på trygg bruk i undervisning, Cappelen Damm samarbeider om den digitale plattformen Allvit, Gyldendal har Smartbok, og Aschehoug lanserte nylig Kunne.
Likevel foregår dette i et juridisk landskap som bremser. Bokloven (2024) sikrer mangfold og fastpris, men gjør det utfordrende å åpne pensum som data for AI-bruk.
Trine Skei Grande i Forleggerforeningen har påpekt at loven beskytter inntektsgrunnlaget som absolutt er viktig, men dette hindrer innovasjon i formidling av fagstoff i andre formater.
Nasjonalbiblioteket og Deichman forvalter også store digitale ressurser, men det lovmessige rammeverket begrenser maskinell tilgang slik det fungerer idag. Når lovverket i praksis stanser tiltak for å gjøre fagkunnskap tilgjengelig, velger studentene det enkleste alternativet: ChatGPT.
Der får de raske, men potensielt usikre og feil svar.
Verifisert læring er ikke en utopi
Selv om dette er en nøtt å knekke, er det langt fra umulig.
- I Tyskland har aktører som Bookwire begynt å tilrettelegge for at forlag, under kontrollerte former og lisensavtaler, kan gi AI-selskaper tilgang til å bruke innhold, for eksempel fagbøker, til indeksering eller trening.
- I Storbritannia har Pearson utviklet AI-moduler for undervisning i samarbeid med utdanningssektoren, som en del av deres digitale læringsplattformer.
- I USA tilbyr OpenStax gratis fagbøker under åpne lisenser, og materialet deres brukes også i sammenhenger der kunstig intelligens spiller en rolle.
Felles for disse initiativene er at de åpner for AI-bruk på rettighetshavernes premisser, snarere enn å forsøke å stenge teknologien ute.
Norske institusjoner som NTNU og Universitetet i Oslo har på sin side utarbeidet tydelige retningslinjer for ansvarlig AI-bruk, som både åpner for nye verktøy og understreker viktigheten av kildekritikk og transparens.
Dette er prinsippene et fremtidig, lisensiert AI-pensum bør bygge på: Kunstig intelligens kan gi raske svar, men må alltid knyttes til dokumentert og etterprøvbar kunnskap.
Riktig sannhet, ikke riktig bok
Målet med høyere utdanning er jo ikke å selge bøker, men å sikre at studentene tilegner seg informasjon de kan stole på i sitt fremtidige yrke. Forlagene bør derfor fokusere på det virkelige verdifulle; innholdets pålitelighet.
I praksis vil en slik løsning kreve:
Universitetene åpner for at lisensiert AI-tilgang til pensum blir en del av studiet.
Fokus på at studentene lærer kildekritikk for å se hvor informasjonen kommer fra, ikke bare hva som sies; trygg bruk av AI-verktøy.
En ny inntektsmodell må på plass der forlagene har kontroll over innholdet og kan kompensere forfattere på en annen måte enn pensum i et «låst» format.
Spotify møtte i utgangspunktet voldsom motstand fra musikkbransjen, men i dag er CD-plater redusert til kuriositeter i spesialbutikker og på loppemarkeder. Og slik vi ser det står nå kunnskapsbransjen overfor et lignende paradigmeskifte.
Hvis det bare står på lovverket, kunne et potensielt forslag for å møte denne utfordringen være å inkludere studenter som en «spesiell behovsgruppe» som kvalifiserer under den internasjonale avtalen vedtatt av Verdensorganisasjonen for immateriell eiendom (WIPO) i 2013, Marrakesh-traktaten. Den har som mål å sikre tilgang til publisert materiale for personer med «funksjonelle tilgangsbegrensninger», som synshemmede og personer med lesevansker.
Traktaten åpner for at autoriserte enheter kan lage og dele tilrettelagte formater av verk uten å innhente samtykke fra rettighetshavere, og på tvers av landegrenser. Dersom “studenter” ble definert i en slik kategori, kunne man med sikker og kontrollert innlogging (BankID/Vipps el.) balansere utdanningsbehov med opphavsrett. Dette vil imidlertid kreve enten en juridisk nytolkning eller en justering av dagens lovverk.
Det er også viktig å merke seg at Marrakesh-traktaten ikke inneholder noen kompensasjonsmekanisme, den gir kun et lovlig rammeverk for tilgang og distribusjon. For å sikre at forlag og forfattere fortsatt blir rettferdig kompensert, må det derfor utvikles en ny, bærekraftig modell parallelt.
Kunnskap, kvalitet og konsekvens
Erfaringer viser at ukritisk bruk av kunstig intelligens i utdanning kan slå feil ut. Flere eksempler viser hvordan studenter har mistet toppkarakterer etter å ha levert elegante, men feilaktige AI-genererte svar.
En artikkel i Khrono viste at nettopp de beste studentene tapte mest fordi de stolte mer på sannsynlige formuleringer enn på dokumentert kunnskap. Det illustrerer hvor sårbart utdanningssystemet blir når det ikke tilbyr trygge, verifiserte alternativer til generativ teknologi.
«I 2025 bør studenter kunne lese, lytte og lære på det formatet de selv vil,» sier Karl Philip Lund.
Når kunnskap er et prompt unna, må studentene kunne stole på at det de lærer er riktig; enten svaret kommer fra en foreleser eller en språkmodell. Forlagene sitter i denne sammenhengen på noe av det mest verdifulle vi har: sannheten.
I en tid der sannsynlighet ofte høres mer overbevisende ut enn fakta, trenger vi nye måter å gjøre etterprøvbar kunnskap tilgjengelig på. Folk forventer ikke nødvendigvis at det skal være gratis, men de vil ha det enkelt, korrekt og rettferdig.
Samtidig ser vi konsekvensene når denne balansen svikter; det amerikanske AI-selskapet Anthropic er blitt saksøkt for å ha brukt tusenvis av bøker, mange fra ulovlige kilder, i treningen av sin språkmodell, og står nå overfor milliardkrav i erstatning.
Og på den andre siden har vi jo også eksempler som Tromsø kommune som brukte AI for lage rapport om ny skolestruktur som inneholdt en rekke feil ettersom AI-genererte forslag ikke ble faktasjekket.
Når «AI-slop» truer med å fortrenge reell innsikt, må forlagene ta tilbake rollen som samfunnets kvalitetsfilter, ikke bare som distributører av bøker, men som forvaltere av troverdighet; uansett format.
Tiden er inne for å tenke nytt om hva et moderne, praktisk og tilgjengelig pensum skal være og hvordan det skal eies.
