Vil bremse KI-bruk i Bergen kommune: – Feil gjør alvorlig skade

– Dette er feil som gjør alvorlig skade på tilliten mellom innbyggere og kommunen, sier Marte Teigen. 

Lokalpolitikeren for Rødt er rystet etter KI-feilene Tromsø kommune gjorde i fjor, og Alver kommune gjorde nylig. 

Da diktet KI opp kilder som ble brukt i skolerapporter. Det gikk også galt da Aurskog-Høland brukte KI til å rydde i rot med vann og avløp.

Mange kommuner utforsker for tiden hvordan KI kan effektivisere det ene og det andre. Over 80 norske kommuner har tatt i bruk kunstig intelligens eller har erfaring med KI-løsninger innen helse og omsorg, ifølge en KS-rapport fra i vår.

AI-skandalen i Tromsø: Avslører alvorlige mangler

Selv uten følger for forslaget om å legge ned åtte skoler, har AI-tabba til Tromsø kosta kommunen tillit.

Nå vil Teigen tråkke på bremsen for bruk av generativ KI i Bergen kommunes interne og eksterne kommunikasjon og saksbehandling.  

Teigen har, med støtte fra eget parti, sendt inn et todelt politisk forslag. De vil at kommunen skal: 

• «ikke bruke generativ KI i utarbeidelse av saksdokumenter, rapporter eller lignende»
• «ikke bruke KI-generert tekst eller bilder i ekstern kommunikasjon, for eksempel på egen nettside, presentasjoner, sosiale medier eller trykt materiell.»

Teigen peker på at Bergen kommune allerede bruker kunstig intelligens til å lage illustrasjoner og bilder som brukes i eksternkommunikasjon: 

– Fristende å ta enkle snarveier

Rødt-politikeren frykter for at saksbehandling ikke skal være forsvarlig og transparent dersom KI brukes. I tillegg er hun opptatt av å verne kreative yrker og klimaet selv. 

– I en presset kommuneøkonomi kan det være fristende å ta enkle snarveier i saksforberedelsene, men konsekvensene vil ofte bli lavere kvalitet, feil og mangler i saksbehandlingen og i verste fall svekket tillit til kommunens utredninger, sier Teigen.

– Foreslår du å nekte absolutt all KI-bruk? Som å bruke KI til å oversette tekst, eller til skrivestøtte, som grammatikkhjelp eller hjelp til å forbetre ei tekst? 

– Å bruke KI til å oversette eksisterende tekst, rettskriving eller lignende har jeg i utgangspunktet ikke problemer med. Forslaget mitt er ikke ment til å forby all bruk av KI, men for å tråkke på bremsen og ta en fot i bakken for hvordan vi bruker det, sier Teigen. 

Det har ikke lyktes kode24 å få en kommentar fra Høyre-byrådet til denne saken de siste to ukene. 

Digital suverenitet

I tillegg til KI-forslaget har Rødt, SV og MDG gått sammen om å foreslå ny digital politikk for Bergen kommune. De vil blant annet: 

• Styrke den digitale suvereniteten gjennom å droppe store tek-selskaper og heller bruke mer norsk eller europeisk programvare som for eksempel OpenDesk. 
• Unngå lock in-avtaler for IT-løsninger. 
• Ha mindre Facebook-kommunikasjon med innbyggerne, og hjelpe innbyggere og andre over til åpen programvare.
• Utarbeide en offentlig skytjeneste. 

– Det er veldig sårbart for kommunen å låse seg så mye til enkelte leverandører, da har man lite fleksibilitet og det kan bli veldig kostnadsdrivende, sier Teigen. 

Også på landsbasis er Rødt kritisk til kunstig intelligens og opptatt av en føre-var-tilnærming.

– Ikke anti-teknologi

Selv bruker Rødt-politikeren KI til automatiserte oppgaver hjemme og på jobb. 

I hverdagen brukern hun en liten mobiltelefon for å korte ned på skjermtid, og på jobb skriver hun en doktorgrad om digitale vaner. 

På fritiden bruker hun KI til å skrape Instagram-videoer med matoppskrifter. Slik får hun oversikt med framgangsmåter og får laget middagshandlelister sortert etter rekkefølgen på butikken hun skal i.

– Jeg er ikke anti-teknologi, jeg er sykt opptatt av det, smiler Teigen.

Et kokosmelk-problem

Hun så opptatt av teknologien at hun har stolt blindt på handlelistene som lages av KI i Notion. 

Men nylig gikk hun på en KI-smell. Hun stod på kjøkkenet og hadde ikke kokosmelk til thaisuppa. 

– Da var det fordi KI-en hadde gjort noe feil. Jeg bruker ikke hjernen i butikken, men fulgte bare handlelisten. Jeg måtte tilbake og spørre «hvorfor kjøpte vi ikke kokosmelk?», ler hun.

Hun fant ut at kokosmelken hadde forsvunnet fra handlelisten fordi KI-verktøyet ikke hadde skjønt om produktet var frukt og grønt eller et meieriprodukt i sorteringsfasen. 

– Og da forsvant det. KI-en sviktet meg, nå er tilliten brutt, og jeg må sjekke igjen, ler hun.

Vestlands-kommuner bygger egen KI-plattform: — Vi har ansvar for å håndtere data trygt

15 vestlandskommuner tar i bruk egenutviklede Veten, som skal være billigere og tryggere.

Åpen for skrivestøtte

Hun vedgår at det vil være noen gråsoner for når KI brukes generativt og ikke. 

– Dersom en saksbehandler mater inn sin egen tekst til en KI-modell og ber om hjelp til å forkorte eller forenkle teksten, vil saksbehandleren fortsatt ha god kontroll på innholdet som bearbeides. Der vi imidlertid ser større utfordringer er når KI benyttes til å skrive store mengder tekst basert på lite input, som er det jeg regner med at har skjedd i sakene i Alver og Tromsø, sier Teigen. 

Hun mener at innbyggere og politikere må kunne stole på at teksten som står i offentlige dokumenter er skrevet og kvalitetssikret av mennesker. 

Det kan unngås med tydelige retningslinjer om å ikke bruke generativ KI, eventuelt ha merkeordninger eller en transparent logg, mener Rødt-politikeren.

– Det vil også fjerne en eventuell forventning til de ansatte i kommunen om at KI skal brukes på denne måten for å spare tid. 

Både KI-forslagene og forslagene om digital suverenitet skal opp til politisk behandling i løpet av høsten. 

Tung advarer mot å «stagnere» mens KI-utviklingen tar av

Digitaliseringsministeren vil satse på kunstig intelligens i hele samfunnet. – Spørsmålet er ikke om vi skal gripe mulighetene i KI, men om vi skal lede an i utviklingen.