Én million snakker med ChatGPT om selvmord
OpenAI har lansert ferske tall som viser at over én million mennesker har samtaler med ChatGPT som indikerer potensiell selvmord.
En ny rapport levert av OpenAI, viser at 0,15 prosent av ChatGPTs aktive brukere i en gitt uke har samtaler som indikerer et potensielt selvmord, skriver nettsiden TechCrunch.
ChatGPT har i dag over 800 millioner brukere på verdensbasis. Og over én million av dem snakker dermed ukentlig med roboten om ting som indikerer potensielt selvmord.
Rapporten opplyser også om at hundretusenvis av deres brukere viser tegn på psykose eller mani i samtalene på nett.
Henviser til profesjonell hjelp
Rapporten viser også til at OpenAI trener modellene deres på å gi folk trygge svar når de snakker om dystre tema som selvmord.
Modellene læres blant annet opp til å henvise folk til profesjonell hjelp og krisetelefoner.
Men OpenAI sier at det i noen sjeldne tilfeller kan hende at modellen ikke oppfører seg som tiltenkt. Selskapet understreker at samtalene kan være vanskelig å både oppdage og måle.
16-åring tok livet sitt
Dagbladet og internasjonale aviser skrev tidligere denne høsten om 16-åringen Adam Raine i California i USA, som tok livet sitt etter å ha snakket med KI-tjenesten ChatGPT.
– Adam var bestevenn med ChatGPT, fortalte faren, Matt Raine, til New York Times.
Adam skal ha skrevet om følelsesløshet og meningsløshet. ChatGPT svarte ofte med empati og oppfordret ham til å søke hjelp.
Men 16-åringen skal ifølge avisen ha lastet opp bilder som viste selvskading, og ChatGPT har svart med å gi han råd om hvordan han kan skjule skadene. Han skal ha bedt om konkrete metoder, og fått detaljerte svar.
Familien til Adam mener sønnen hadde fortsatt vært i live uten ChatGPT og har saksøkt OpenAI for uaktsomt drap. Det er ifølge New York Times det første kjente søksmålet av sitt slag mot selskapet.
Open AI har svart i en uttalelse at de er dypt preget av dødsfallet.
«ChatGPT har innebygde sikkerhetsmekanismer som henviser folk til krisetelefoner og virkelige ressurser. Men vi vet at de kan svikte i lengre samtaler», opplyste selskapet i en uttalelse.
Forbedringer i ny versjon
OpenAI er i dag et av verdens største teknologiselskaper etter lanseringen av ChatGPT i 2022.
I høst lanserte de GPT-5, som er den nyeste versjonen. Den er ifølge selskapet smartere, raskere og bedre å gi nøyaktige svar.
OpenAI sier i rapporten at den nye modellen inneholder nye sikkerhetsoppdateringer. OpenAI nevner tre punkter de særlig har hatt fokus på å forbedre:
- Psykiske problemer – psykose og mani hos brukere.
- Selvskading og selvmord.
- Emosjonell KI-avhengighet.
– Vi tror ChatGPT kan gi et støttende rom for folk til å behandle det de føler, og veilede dem til å nå ut til venner, familie eller en psykisk helsepersonell når det er hensiktsmessig, skriver selskapet i rapporten.
