Ut mot «Chat Control»:
– Går for langt

Nyleg blei ein nordmann i IT-bransjen dømt for å ha brukt KI til å lage grove bilde av barn.

Det er berre ein av mange slike saker dei siste åra, og KI gjer det ikkje mindre lett å produsere overgrepsmateriale. Etter fleire års debatt landa EU-landa seint i fjor sine forslag for å stoppe spreiinga av slikt materiale. 

No knar EU-kommisjonen på forslaga i CSAM-direktivet (Child Sexual Abuse Material). Det som skaper mest motstand, også frå det norske Datatilsynet, er det kritikarane kallar «Chat control». 

Det skal kunne kontrollere chattar og epostar, mellom anna.

– Desse tiltaka vil ha massive og inngripande konsekvensar for personvernet og tryggleiken vår på nett, seier seniorrådgjevar Svein Gjørtz i Datatilsynet i pressemelding.

– Vi følgjer difor prosessen i Brussel nøye.

Dømt for å ha brukt KI til å lage overgrepsbilder

En mann i 30-årene er dømt til fengsel etter at han brukte kunstig intelligensteknologi til å lage bilder av seksuelle overgrep mot barn. Mannen har i flere år jobbet i IT-bransjen.

Automatisk overvaking

EU ønsker eit felles regelverk for Europa som stiller krav til digitale plattformer og meldingstenester. Å overvake tenestene er eitt av grepa. 

Ein mild versjon av dette er allereie mellombels i funksjon i EU, som lar meldingstenester frivillig overvake meldingar fram til 2028. Signal og WhatsApp er ikkje blant desse, ifølgje Euronews.

– Tiltaka går ut på at digitale plattformer og meldingstenester må bruke teknologiar for å overvake innhaldet på tenesta si automatisk. Dei vil også vere pålagde å flagge og melde inn mogleg ulovleg materiale til eit sentralt EU-organ, forklarar Gjørtz. 

Han peikar på at forslaget ikkje skil mellom ulike typar tenester eller innhald. 

– Det vil seie at lyd, bilete og tekst er omfatta av overvakinga. Det vil også seie at ende-til-ende-krypterte tenester kan bli pålagde å overvake alt innhald på tenesta. I så fall må dei skanne innhaldet før det vert kryptert og sendt.

Digdir: – Det er ikke staten de trenger å være urolige for

Private IT-aktører bør være mer bekymret for kunstig intelligens enn at staten skal gå dem i næringen, mener Digdir. – Ganske arrogant, svarer TEK Norge.

Privat kommunikasjon blir umogleg

Dette tiltaket grip for hårdt inn i personvernet til uskuldige folk og går for langt, meiner Datatilsynet. 

– Dersom krypterte tenester vert pålagde å overvake alt innhald på tenestene sine, vil det heller ikkje lenger vere mogleg å ha privat kommunikasjon på internett, seier Gjørtz. 

Han åtvarar om at pålagte bakdører kan bli nytta av hackarar og skape sikkerhetsproblem. 

I staden meiner Gjørtz at andre tiltak enn masseovervaking må takast i bruk for å verne om barn på internett. 

– Dette kan til dømes vere risikobaserte tiltak der digitale plattformer blir pålagde å gjere det vanskelegare for framande vaksne å kontakte barn på sosiale medium, seier seniorrådgjevaren. 

Advarer om ukontrollert KI-bruk i kommunene

Datatilsynet får flere avviksmeldinger om at KI-agenter med for mye tilgang blir som «digitale spøkelser» og virus.