– Å bruke KI er som å gå med en bloddiamant
Etikkforsker mener måten kunstig intelligens trenes på, gjør teknologien uetisk.
Publisert
– Å bruke en språkmodell er det samme som å gå med en bloddiamant, sier Elisabeth Austad Asser.
Hun har doktorgrad i KI og etikk ved Universitetet i Agder. Uttalelsen kommer i en fersk episode av podkasten «Kunstig intelligens» fra UiA.
I podkastserien diskuterer Asser, seniorrådgiver Maren Thormodsæter Lyngroth og professor Morten Goodwin ved UiA aspekter ved KI.
Mens tech-toppene for tiden advarer mot sin egen teknologi og vil senke tempoet, mener Asser det ikke går an å bruke språkmodeller på en etisk måte, på grunn av måten modellene lages på.
Hun sammenligner det med å kjøpe bloddiamanter, også kalt konfliktdiamanter, som er utvunnet på illegalt og farlig vis, ifølge Det norske akademis ordbok.
– Dette er diamanter som er utvunnet på bekostning av stor menneskelig lidelse. Rå utnyttelse av ressurser og kynisk utnytting av arbeidskraft, sier Asser i podkasten.
Stjeler innhold
Sammenligningen har Asser hentet fra den amerikanske forskeren og dataingeniøren Joy Buolamwini ved Massachusetts Institute of Technology (MIT).
Buolamwini har forsket på skjevheter, bias, i språkmodeller. Blant annet testet hun ansiktsgjenkjenning på seg selv, og systemet fant henne ikke før hun tok på en hvit maske.
– Både språkmodell og diamant er verdifulle sluttprodukter, men kostnaden ved produksjonen er vanskelig å se for oss. Verdien er skapt gjennom at noen er utnyttet gjennom menneskelig lidelse som er langt unna kjøperen, sier Asser.
Forskeren peker på at KI-modeller henter inn tekst, bilder og musikk, som så kalles datasett, som ofte er stjålet fra internett uten å spørre opphavspersonene.
– Det er som å stjele råvarer.
Videre i fintrenings-fasen må mennesker vurdere svar og merke innhold som ofte dreier seg om vold, overgrep og hatefulle ytringer. Og de som får denne jobben kan gjerne være mennesker som er sårbare fra før.
– Det å bli eksponert for så mye grusomt innhold, veldig grafisk og over lang tid, gjør noe med et menneske, sier Asser.
For eksempler har Time Magazine dokumentert timelønninger på under 2 dollar for KI-arbeidere i Kenya.
– En voldsom påstand
Medpodkaster og KI-professor Morten Goodwin mener at det å sammenligne KI med bloddiamanter er å ta litt i.
– Det er en voldsom påstand, sier Goodwin i podkasten.
Han peker på at for eksempel forskere kan tjene på at språkmodeller plukker opp tekstene deres, slik som Google gjør.
Samtidig er han enig i at KI-arbeiderne kan bli en ny underklasse.
– De er for store til at vi kan sette kjepper i hjula på dem, sier han om tek-gigantene.
Lite innsikt i verdikjeden
De er begge enige om at det ikke er så lett å velge vekk KI som det er å droppe å kjøpe en diamant.
Asser mener det er utviklere, innkjøpere, myndigheter og store virksomheter som har mest makt til å stille krav til teknologien.
– Vi kan ikke individualisere et strukturelt problem. En ansvarlig aktør bør spørre hvor treningsdataene kommer fra, hvilke underleverandører som brukes, og hvordan arbeidsforholdene håndteres, sier Asser.
Hun innrømmer at KI nå er så omfattende at spørsmålet kanskje ikke er om man etiske når man bruker ChatGPT.
– Spørsmålet bør kanskje heller være hvorfor vi som samfunn aksepterer at denne teknologien har en verdikjede som vi har så liten innsikt i.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
