Stack Overflow-moderatorer streiker etter AI-krangel

Mengden spam forventes å stige etter at antispam-verktøy blir skrudd av i protest.

SmokeDetektor-verktøyet som brukes for å detektere spam på Stack Overflow er skrudd av, og moderatorene har gått til streik.
SmokeDetektor-verktøyet som brukes for å detektere spam på Stack Overflow er skrudd av, og moderatorene har gått til streik. Vis mer

En rekke frivillige moderatorer og bidragsytere til Stack Overflow har "gått til streik" etter at de skal ha fått instrukser om å ikke fjerne AI-generert innhold – bortsett fra i veldig spesielle tilfeller, skriver DevClass.

– Stack Overflow har vedtatt et tilnærmet totalforbud mot å moderere AI-generert innhold, etter at en flom av slikt innhold som ble publisert og deretter fjernet fra Stack Exchange-nettverket, skriver de som streiker i et åpent brev.

Gruppen mener dette i praksis betyr fri spredning av feilinformasjon fra AI – gjerne kalt "hallusinasjoner" – og mulighet for å plagiere innhold helt uhindret.

– Dette utgjør en stor trussel mot plattformens integritet og pålitelighet, samt innholdet på plattformen.

«Våre forsøk på å få til endringer gjennom riktige kanaler har blitt ignorert.»

Umulig å gjøre moderatorjobben

Moderatorene skriver i brevet at de umiddelbart vil slutte å moderere innhold på Stack Overflow og resten av Stack Exchange-nettverket.

Streiken skjer både fordi moderatorene mener de ikke lenger vil være i stand til å utføre jobben sin med å sikre kvaliteten på innholdet, og fordi de nye retningslinjene har blitt innført uten at noen har konsultert med dem først.

– Våre forsøk på å få til endringer gjennom riktige kanaler har blitt ignorert, og hver gang har ikke våre bekymringer blitt tatt hensyn til.

Det at moderatorene ikke lenger kan fjerne AI-innhold bare fordi det er generert av AI, betyr at nesten alt AI-skapt innhold kan postes fritt, mener moderatorene.

Forfatterne av brevet skriver at de mener kjernevirksomheten til Stack Exchange-nettverker er å tilby informasjon av høy kvalitet i form av spørsmål og svar.

– Det Stack Overflow har gjort nylig skader direkte dette målet.

Skrur av antispam-verktøy

Ifølge DevClass, som har snakket med en av moderatorene, har nå 15 av 24 moderatorer gått til streik.

Moderatorene har også stengt ned et verktøy som kalles SmokeDetektor, som brukes for å detektere spam.

Stack Overflow har vinglet en del i sine holdninger til AI-generert innhold. I starten svarte de med å forby alle ChatGPT-genererte svar på sin plattform. Senere gikk selskapet ut og sa at de hadde bestemt at det ikke var nødvendig med en generell policy på å forby ChatGPT eller annet AI-generert innhold.

Stack Overflow-sjef Prashanth Chandrasekar har nylig snakket om rollen kunstig intelligens skal ha i Stack Overflow, og sagt selskapet jobber med nye funksjoner som kombinerer menneskelig kunnskap og AI.

Det kan virke som at moderatorene ikke er like positive til AI-generert innhold som Chandrasekar.

– Vi vil minne Stack Overflow om at et nettverk som i sin helhet baserer seg på frivillige til moderering, ikke kan ignorere eller behandle de samme frivillige på en dårlig måte, heter det i brevet.

Stack Overflow: Falske positiver

I en uttalelse til DevClass sier Philippe Beaudette i Stack Overflow at uenigheten med moderatorene skyldes selskapets holdning til bruk av verktøy for å detektere AI-generert innhold.

Han hevder Stack Overflows tester viser at disse verktøyene har altfor mange falske positiver, altså flagger menneskeskapt innhold som AI-skapt. Dette førte til at brukere som ikke hadde gjort noe galt ble utestengt.

– Vi står ved vår beslutning om å kreve at moderatorer slutter å bruke disse verktøyene. Vi vil fortsette å se etter alternativer, sier Beaudette til DevClass.