Advarer om ukontrollert KI-bruk i kommunene
Datatilsynet får flere avviksmeldinger om at KI-agenter med for mye tilgang blir som «digitale spøkelser» og virus.
Publisert
– Problemet er at organisasjonen ikke vet hvordan KI brukes i virksomheten, sier spesialrådgiver Eirik Gulbrandsen i seksjon for tekonologi, sikkerhet og tilsyn (TST) til kode24.
Stadig flere kommuner rapporterer om tilfeldig, uønsket og ukontrollert bruk av KI-agenter.
Datatilsynet anslår overfor kode24 å ha mottatt 30-40 avviksmeldinger om dette mellom sommeren 2025 og sommeren 2026.
– Det er en merkbar økning i denne type avviksmeldinger, sier Gulbrandsen.
Agentene får tilgang til sensitive journaler, deltar på møter, transkriberer og oppsummerer, uten at bruken er godkjent, eller det er gjort risiko- eller personvernvurderinger, opplyser Datatilsynet.
Ikke minst viser avviksmeldingene at utfordringen ikke minst gjelder utviklere, påpeker Sara Rossebø, rådgiver i TST.
– Feil oppsett av en KI-applikasjon eller en agent, kan føre til at det blir sendt personopplysninger og andre sensitive opplysninger uten at de egentlig skulle det, sier hun til kode24.
KI-verktøy opptrer som virus
kode24 møter Rossebø og Gulbrandsen etter at de har foredratt om utfordringene med KI-verktøy og KI-agenter på Sikkerhetsfestivalen i Lillehammer forrige uke.
I foredraget advarer de om at selv godkjente KI-verktøy kan opptre som spøkelser eller «skygge-KI» i kommuner og virksomheter, altså i motsetning til synlig og ansvarlig bruk.
– Har du for eksempel sittet og diskutert en barnevernssak, kan det jo være veldig uheldig at det blir delt med tredjeparter, sier Gulbrandsen.
Problemstillingene har to kategorier:
- Uautoriserte KI-verktøy gjør opptak av og transkriberer digitale møter.
- Uautoriserte KI-agenter i nettleserutvidelser omgår tilgangsstyring og dukker opp i saks- og fagsystemer tilgjengelig for bruk av de ansatte.
Slik kommer spøkelset til
I den første kategorien slipper «spøkelset» typisk til ved at en møtedeltaker bruker en tredjeparts KI-app uten å informere de andre i møtet før møtet er over.
En typisk app som går igjen, er ReadAI. Den fungerer slik at alle i møtet får en automatisk e-post med opptak og transkribering i etterkant, ifølge Datatilsynet.
– Alle som klikker seg inn, blir automatisk innrullet som brukere av ReadAI og drar tjenesten med seg videre i sine fremtidige Teams-møter. Så jeg kan jo egentlig minne om hvordan et virus oppfører seg, sier Rossebø i foredraget.
Dette illustrerer problemet knyttet til tilgangsstyring og kontroll med applikasjoner, påpeker hun.
– Ansatte kan logge på, integrere og gi tilgang til tredjepartsverktøy uten at det styres eller kontrolleres.
Hun forteller om en hendelse ved Universitetet i Oslo i fjor, der et mindre avvik på at 59 personer brukte ReadAI, utviklet seg til at rundt 17.000 ansatte og studenter hadde mulighet til å gi tilgang til tredjepartsleverandører som ikke var godkjente. Universitas omtalte saken.
Bruker gratisversjon av Copilot
Den andre kategorien spøkelsesinnbrudd går på KI-agenter i nettleserutvidelser.
– Det vi i økende grad har fått avviksmeldinger om, er at ansatte tror de kan ta i bruk den innebygde gratisversjonen av Copilot på områder hvor dette ikke er risikovurdert eller godkjent, fordi den dukker opp som et lett tilgjengelig verktøy, sier Rossebø.
En avviksmelding forteller at Copilot integrert i Edge kan analysere og oppsummere tekst fra dokumenter i saks- og arkivsystemet. Slik får Copilot tilgang til personopplysninger.
Ansatte laster ned og bruker verktøy
Men hvordan er det mulig at en KI som skal oppsummere et møte, kan ende opp med å dele informasjonen i kreti og pleti?
– Alt nettleseren din henter opp, er i utgangspunktet tilgjengelig for et nettillegg. Den kan lese all teksten som står på skjermbildet ditt og kopiere det inn til sitt minne, der den kan lagre det av seg selv, dele med tredjeparter, og behandle det på ulike måter, forklarer Gulbrandsen overfor kode24.
– Hvordan får KI-agenten tilgang til sensitiv informasjon?
– Ifølge avviksmeldingene vi har fått rundt Read.AI som integreres opp mot Teams på laptop og mobiltelefon, er at ansatte laster det ned og bruker det. Når man sitter i møter, fanger den opp hva som blir sagt av hvem, hvem som har delt mye og ikke, og toneleie. Dette er personopplysninger som sier noe om de ansatte eller eksterne, sier Rossebø.
Guldbrandsen forklarer at appen logger seg på og deltar i møtet som om den var en person.
– Ha orden i eget hus!
Så hvordan unngå at det Datatilsynet kaller KI-spøkelset i det hele tatt dukker opp og får med seg sensitiv informasjon? Svaret er ikke å forby KI, mener Gulbrandsen, men:
– Ha orden i eget hus! Du skal vite hva du har, hvor det ligger, hva det er for noe, og hvem som skal ha tilgang, sier han.
– Tilgangskontroll – til hvem som skal ha tilgang til hva og hvem skal kunne godkjenne hva, føyer Rossebø til.
Og dersom KI skal tas i bruk, må man gjøre risikovurderinger, inngå en databehandleravtale og vurdere hvordan personvernet tas hensyn til i denne, understreker de.
– Gjelder dette også utviklere?
– Definitivt. Utviklere kan også være sårbare, fordi mange utviklerverktøy er KI-baserte. Utviklere kan også ha mye tilgang fordi de skal utvikle systemene, sier Gulbrandsen.
Han peker på at også administratorer og driftspersonell på IT-siden er utsatte grupper.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
