Googles KI kom med grove påstandar om tidlegare SV-topp
Fire politikarar var involvert i rettssaker eller til og med dømte, hevda Google. Det stemte berre i eitt av tilfella. – Grovt og kjipt, seier tidlegare SV-statsråd Heikki Holmås.
Ein Reddit-brukar søkte nyleg på «Stortingspolitiker i fengsel» på Google.
Svaret han fekk av KI-oversikten til søkemotoren viste seg å innehalde feil om tre av dei fire politikarane på lista.
På topp stod tidlegare stortingsrepresentant og statsråd for SV, Heikki Holmås.
Ifølgje KI-oversikta blei han i «2025 sikta og seinare domfelt for forhold knytt til eige og kjøp av seksuelle tenester frå ein mindreårig».
– Det er absolutt feil, seier Holmås sjølv til kode24.
Han jobbar i dag i Sopra Steria, der han er direktør for strategi og energi, og fagansvarlig for bærekraftsrådgivning.
– Dette er jo veikskapen til dagens KI-språkmodellar, at dei hallusinerar. Det gjer dei på utruleg mange måtar. Dette er ein av dei grovare og kjipare måtane.
Google retta seg sjølv
Eit par timar etter at tråden om KI-teksten blei posta på Reddit, retta KI-oversikta til Google opp sin eigen feil.
«Det er ingen bevis for at Heikki Holmås er dømt for kjøp av seksuelle tenester; ein feilaktig påstand skal ha sirkulert via AI, men stemmer ikkje», står det på ein ny skjermdump i tråden.
Når kode24 gjer det same Google-søket, er ikkje Holmås nemnd med namn lenger.
Sjølv trur Heikki Holmåls lista over dei som har opplevd minst like galne hallusinasjonar er veldig lang.
– Eg brukar sjølv KI mykje i arbeidet mitt og ser mange døme på at språkmodellane til sjølv dei store techselskapa fantaserar.
Upresist eller heilt feil
Undersøkingar kode24 har gjort, viser at Google også fantaserte om to andre på den KI-genererte lista, og er upresis om éin politikar.
- Det stemmer at Mazyar Keshvari blei dømt til sju månadar i fengsel for grovt bedrageri i 2019, men året etter vart dommen utvida til 11 månadar. Altså kunne informasjonen vore meir oppdatert og presis.
- Men det er ikkje riktig at stortingsrepresentant Tor André Johnsen (Frp) skal ha vore involvert i ein «rettsprosess i 2025 knytt til lovbrot på vegtrafikklova og motsetning mot offentleg tenestemann».
- Det er heller ikkje riktig at tidlegare stortingsrepresentant Heidi Greni (Sp) skal ha vore «involvert i ei sak vedrørande økonomiske mislegheiter som førte til rettsleg forfølging tidleg på 2020-talet».
– Ikkje hyggeleg å bli framstilt som kriminell
Dei to sistnemnde reagerer med vantru når kode24 tek kontakt.
– Det er jo heilt feil. Korleis får dei til å finne på noko slikt? Det er heilt absurd. Det må vere vesentlege veikskapar med KI, seier Tor André Johnsen.
Heidi Greni ler høgt når kode24 les opp påstanden til Googles KI.
– Det er i alle fall ukjent for meg. Det er ikkje hyggeleg å bli framstilt som kriminell på nettet, seier ho.
Greni er framleis på jobbjakt etter at ho mista stortingsplassen i valet i haust.
– Dette står fram som ein flekk på rullebladet, som folk truleg trur på. Dersom arbeidsgjevarar googlar namnet mitt og les at eg har vore involvert i noko straffbart, vil dei då tilsette meg i noko?
Korleis får dei til å finne på noko slikt? Det er heilt absurd.
Håper på strengare regulering
Dette meiner dei tre profilane bør skje med KI-tenestene framover:
- Heidi Greni meiner Google bør merke KI-tenesta si betre, slik at folk ikkje tek alt som står der for god fisk. – Sidene bør merkast med at du må ta det med ein klype salt, så folk ikkje trur at det er heile og fulle sanninga, seier ho.
- Tor André Johnsen trur det vil bli strengare regulering av KI framover, sjølv om Frp elles ikkje er så glad i å regulere store og små ting. – KI er eit stort og nytt felt som kan ha store, negative, samfunnsmessige konsekvensar om det blir brukt feil, seier han.
- Heikki Holmås tek til orde for å lære opp både barn og vaksne i å ha eit kritisk forhold til det som skrivast av både KI-modeller og elles i media. Slik kan ein ha ei felles oppfatning i samfunnet av kva som er fakta og kva som er feil eller til og med ondsinna løgn. – Det blir heilt avgjerande for demokratiet framover, seier han.
Sjekka informasjon frå KI
Utgangspunktet for Google-søket var at Reddit-brukaren var nysgjerrig på kva som skjer med stortingsjobbinga når ein politikar må sone i fengsel.
Mannen ønsker ikkje å stå fram med namnet sitt hos kode24, men opplyser at han jobbar i sikkerheitsbransjen.
Då han fekk opp ei KI-generert liste over politikarar, stussa han over at profilar Heikki Holmås nyleg skal ha vore involvert i sakene som er lista opp.
– Eg føler at eg hadde høyrd om det dersom det hadde skjedd, så eg sjekka opp om det stemte, noko det då ikkje gjorde, svarar Reddit-brukeren.
KI-ar er lygemaskinar som fabrikerar fakta.
Meiner KI er «lygemaskinar»
Reddit-brukaren meiner det er «rein galskap» at det er lov med slik teknologi «utan nokon som helst form for reguleringar».
– KI-ar er lygemaskinar som fabrikerar fakta. Det at det står «Informasjonen kan vere feil» nedst på skjermen med lita skrift synest eg ikkje er ei god nok unnskulding til å tillate at den spreiar farleg misinformasjon.
Mannen er oppteken av at både teknologiselskapa og styresmaktene må ta ansvar for å regulere kunstig intelligens betre. Samtidig peikar han også på ansvaret til forbrukarane og fryktar folk vil bruke KI som kjelde på innlegg dei sjølve postar på internett.
– Eg er redd for at internett følgeleg blir ubrukeleg som ei kjelde for å hente informasjon, då det blir umogleg å seie kva som faktisk er sant, og kva som berre er KI-oppspinn, skriv mannen til kode24.
Google svarar: – Blir stadig forbetra
Kode24 har sendt fleire spørsmål til Google om saka, om kor mykje ein kan stole på KI-oversikta deira, kva selskapet gjer for å hindre hallusinering, og kommentar til uttalar frå reddit-brukaren.
Sondre Ronander, pressekontakt i Google Norge og Suomi, kommenterer saka samla slik:
– AI-oversikter blir stadig forbetra for å vise nyttig informasjon, og vi jobbar hardt for å sikre kvaliteten på svara, skriv Ronander.
– Når det oppstår problem, til dømes viss modellane våre feiltolkar innhald på nettet eller manglar kontekst, brukar vi desse eksempla til å forbetre systema våre, og vi kan iverksette tiltak i henhold til retningslinjene våre.
