Rapport om blant annet AI i skolen full av AI-skapte falske kilder
I en rapport om modernisering av utdanningssystemet oppfordres det til "etisk" AI-bruk – men mange av kildene i rapporten mistenkes å være laget av AI.
En stor rapport om modernisering av utdanningssystemet i den kanadiske provinsen Newfoundland og Labrador har minst 15 oppdiktede kilder, som noen lærere mener sannsynligvis er laget av kunstig intelligens. Det skriver CBS.
Den 418 sider lange rapporten, "A Vision for the Future: Transforming and Modernizing Education", har tatt 18 måneder å ferdigstille og er ment som et tiårig veikart for modernisering av provinsens offentlige skoler og høyere utdanningsinstitusjoner.
Ironisk nok inneholder rapporten også anbefalinger om hvordan lærere bør bruke AI på en etisk og ansvarlig måte.
I en av de 110 anbefalingene i rapporten står det for eksempel at myndighetene i Newfoundland og Labrador "...skal gi elever og lærere grunnleggende kunnskap om kunstig intelligens, inkludert etikk, personvern og ansvarlig bruk av teknologi".
Oppdiktet informasjon
CBS viser til en rekke oppdiktede kilder i rapporten.
For eksempel vises det til en film fra 2008 kalt "Schoolyard Games". Filmen eksisterer ikke, mens sitater i rapporten ser ut til å være hentet fra "University of Victoria style guide", et dokument som inneholder oppdiktede teksteksempler for å demonstrere hvordan tekst skal formateres.
I starten av stilguiden står det "Mange sitater i denne guiden er oppdiktede".
Likevel er den oppdiktede teksten på en eller annen måte havnet i rapporten, som om den var hentet fra legitime kilder.
Mistenker AI
Det er ingen bevis for at det er AI som har lagt inn den falske informasjonen, eller om dette er gjort manuelt av mennesker. Flere CBS har snakket med mener imidlertid det er sannsynlig at feilsiteringene er AI-genererte.
Aaron Tucker, førsteamanuensis ved Memorial University, sier til CBS at det er mange kilder i rapporten han ikke har klart å finne igjen andre steder.
– Om det er AI, vet jeg ikke, men å fabrikkere kilder er et kjennetegn på kunstig intelligens. Fabrikkering av kilder betyr at vi i hvert fall må stille oss spørsmålet: kommer dette fra generativ AI? sier Tucker.
Å fabrikkere kilder er et kjennetegn på kunstig intelligens.
En annen professor ved Memorial University, Sarah Martin, sier hun ikke kan tenke seg en annen forklaring.
– Du tenker: ‘Dette må være riktig, det kan ikke være feil. Dette er en kilde i et svært viktig dokument for utdanningspolitikken’, sier Martin.
Hun mener forfatterne av dokumentet burde ha trukket det tilbake og fikset feilene.
Minner om Tromsø-tabben
Utdanningsministeren i Newfoundland og Labrador skriver i en uttalelse til CBC at han ikke ønsker å kommentere, men at de undersøker saken.
Utdanningsdepartementet på sin side sier de har blitt gjort oppmerksomme på "et lite antall mulige sitatfeil", og vil komme med en oppdatert rapport.
Som kjent har liknende tabber skjedd her i Norge, som da Tromsø kommune anbefalte nedleggelser av skoler basert på en rapport med flere kilder AI bare fant på.
