Bruker KI-kofter fulle av feil: «Forvrengte framstillinger»

Søker man etter bilder av de samiske koftene gákti på Google, kommer KI-generte bilder høyt opp blant resultatene. 

Dette mener Samisk AI Lab er skremmende. 

– Nøyaktig fremstilling er ekstra viktig for minoriteter, som samer, siden det finnes så få bilder og andre digitale media med samer. Derfor kan feilaktige bilder generert av KI fort fullstendig dominere hvordan samisk kultur blir fremstilt, sier Lars Ailo Bongo i samisk AI Lab til kode24.

Det tredje bildet som dukker opp når man søker på «Sami gákti» i Google, er lagt ut av reisebyrået Best of Nordic. Bildet er KI-generert, og koftene har feil og mangler – de representerer ikke ekte kofter.

Viktig at mangfoldet bevares

Sámi AI Lab er et samarbeidsprosjekt mellom UiT og Samisk høyskole. I revidert statsbudsjett kom det denne uka fram at Sámi AI Lab får tildelt tre millioner kroner. 

I labben jobber de med å tilrettelegge for bedre kunstig intelligens basert på samisk språk og kunnskap.

– Vi ser allerede dette online, der KI-genererte bilder brukes i artikler som er høyt oppe i Google søk. Det er også viktig at det samiske mangfoldet bevares, slik at ikke alle genererte bilder av samer er i Kautokeino-kofte, sier Bongo. 

Kevin Bergan har skrevet en masteravhandling om tematikken, i studiet sivilingeniør i informatikk. Han bekrefter at chatbotene har problemer med å generere riktige bilder av både kofter og bunader. 

– Det er vanskelig å si nøyaktig hvorfor slike feil oppstår, men en mulig forklaring er at det finnes begrenset med detaljerte beskrivelser av bunader og kofter i tekstmaterialet som KI-modeller trenes på. 

– Det finnes ikke så veldig mye metadata for samiske bilder, og da kan det bli en kulturell forvrengt framstilling – som igjen kan bidra til at mennesker får et feilaktig bilde av kulturen, sier han til kode24. 

– Vi tar den på alvor

Henrik Keller er prosjekt- og driftsleder i reisebyrået Best of Nordic ApS, som har brukt KI-generte bilder av kofter på nettsidene sine. 

– Hvorfor bruker dere KI-genererte bilder som er generert med OpenAi-verktøy på hjemmesiden deres?

– Vi forstår problemstillingen du tar opp, og vi tar den på alvor, sier han. 

– Bruk av KI-genererte bilder av jakker (gákti) kan selvsagt være problematisk dersom bildet gir et unøyaktig eller forvrengt inntrykk av samisk kultur, kostymer, mønstre eller tradisjoner. Det har på ingen måte vært vår intensjon å fremstille samisk kultur feil eller respektløst.

– Grunnen til at vi har brukt et AI-generert illustrasjonsbilde er først og fremst av praktiske årsaker, legger han til.

Fikk dans stjålet av KI

Kjetil Krogstad fant igjen en dansevideo han laget i 2023 på Instagram. Da var han blitt til en dansende kanin. – Helt etisk feil.

KI sliter med bunader, også

Bergan sier at dersom minoritetene ikke får være med på å påvirke hvordan de representeres gjennom KI, så er det en risiko for at teknologien viderefører eller forsterker kulturelle misforståelser.

I tillegg til kofter har Bergan også sett på genererte bilder av bunader. 

Bilde til høyre under er laget av ChatGPT der han spurte: «Can you generate a picture of a blue Trønderbunad for women?»

– Som jeg tror de fleste kan se, så mangler bilde laget av ChatGPT de karakteristiske mønstrene på vesten og på forkleet:

Vurderer om det skal fjernes

Keller sier at Best of Nordic er et lite selskap, og de dessverre ikke har økonomi til å kjøpe rettigheter til alle bildene de bruker i artiklene sine. Derfor har de endt opp med å bruke KI-generte bilder. 

– Vi har også forsøkt å finne gratis bilder med gratis bruksrettigheter av gákti og kofte, men har så langt ikke klart å finne et passende bilde som vi trygt kan bruke lovlig.

– Når det er sagt, kan vi se at akkurat denne typen motiv krever ekstra omtanke. Derfor skal vi nå se på bildet på nytt og vurdere om det skal fjernes eller erstattes med et mer riktig alternativ.

Westerlins tjeneste skal tidoble Tinder-treff: – Alt jeg misliker med KI

– Det handler om hvordan vi bygger et samfunn der teknologi styrker, ikke undergraver, menneskelige relasjoner, skriver Vegard Mongstad Haavik i ARTI Consult.