Reddit varsler at de vil stramme inn på sine rutiner for å beskytte plattformen mot «uønsket AI» – noe de tidligere har sagt oversvømmer det sosiale mediet.
Det skriver Steve Huffman i et ferskt innlegg på nettopp Reddit, der han også avslører at dette er bekymringen som brukere og moderatorer tar opp oftest.
Planen kommer kort tid etter at en gruppe forskere skal ha «lånt» plattformen til å teste om AI kan endre folks syn på ulike temaer, ved å utgi seg for å være mennesker.
Svært kritiske til forsøket
Et forskerteam fra Universitetet i Zurich gjennomførte nylig et eksperiment i stor skala, uten at dette skal ha vært godkjent fra Reddit, melder 404 Media.
- Forskerne slapp løs en en rekke AI-boter i den populære subredditen r/changemyview, for å se om disse kunne endre folks oppfatning i kontroversielle saker.
- Ledelsen i Reddit har vært svært kritiske til forsøket, og har opprettet en egen redditpost der de kommer med oppdateringer om saken. Der forteller de blant annet at de vurderer å ta rettslige skritt mot universitetet.
- Etikkomiteen ved universitetet sier til 404 at de anbefalte forskerne å endre eksperimentet i forkant. De forteller også at resultatene ikke vil bli delt.
VGs nye chatbot gir feil info, får kritikk
Uten å henvise til dette eksempelet, påpeker Huffman likevel hvor viktig det er at innholdet på plattformen er menneskeskapt.
– Reddit funker fordi det er mennesklig. Plattformen er ett av få steder på internett der ekte mennesker deler ekte meninger, og det er dette som gjør Reddit så verdifullt, skriver Huffman.
Vil vite om du er menneske
– Vårt fokus er, og vil alltid være, å bevare Reddit som en troverdig plattform der mennesker kan snakke sammen, fortsetter Reddit-sjefen.
Flere moderatorer har tidligere etterlyst hjelp i kampen mot AI-generert søppel på Reddit.
AI-søppel fyller Reddit – trygler om mer hjelp
Huffman innrømmer at plattformen har krevd lite informasjon fra brukerne, for å sikre at folk skal kunne være anonyme. I framtiden vil de be om mer informasjon, blant annet for å beskytte det mennesklige ved Reddit.
– Helt konkret: Vi trenger svar på om du er et menneske eller ikke, og i noen land eller områder trenger vi svar på om du er voksen.
Dette skal skje gjennom «ulike tredjepartsløsninger», som skal kunne levere dem med kun denne grunnleggende informasjonen - altså ikke noe navn eller annet. Huffman skriver at Reddit vil komme tilbake med mer informasjon.
Selger data til AI-trening
Det hører også med til historien at Reddit har en betydelig økonomisk interesse i å beholde det mennesklige ved plattformen.
Selskapet inngikk i fjor en avtale med Google, der teknologigiganten får tilgang til å trene sin AI på sanntidsinnhold fra Reddit.
Denne avtalen skal ifølge The Verge ha en verdi på 60 millioner dollar i året, knappe 620 millioner kroner.
I fjor sommer strammet også Reddit inn på hvilken tiltak crawlere fra ulike søkemotorer fikk. Dette førte blant annet til at blant annet DuckDuckGo ikke fikk forhåndsvise treff fra Reddit i søkemotoren.
