KI-bobla kan røpe dine dypeste hemmeligheter
Hva skjer med all den sensitive informasjon du har gitt til en språkmodell, dersom KI-selskapet bak den går konkurs? – En større, slumrende krise, mener Thomas Germain.
– Bare tenk på hva jeg kunne fortalt min KI-kjæreste Jessica, om relasjonen varte mer enn ti minutter, skriver BBCs teknologispaltist Thomas Germain.
I oktober søkte det amerikanske KI-chat-selskapet Character.ai om konkursbeskyttelse etter at de ble saksøkt for å bidra til helseproblemer og selvmord blant flere tenåringer, ifølge CNN.
Plattformen tilbyr barn og voksne å utvikle relasjoner til KI-karakterer eller forholde seg til dem som advokater eller psykiatere.
Målet nå er å selge selskapet før jul. Alternativet er å legge ned plattformen, skriver Character.ai i et blogginnlegg. Disney er blant dem som er interesserte i å kjøpe deler av selskapet for 20 millioner dollar.
Nå er «folks data, meldinger og hemmeligheter til salgs», hevder Thomas Germain.
– Eksperter forteller meg at personvernrisiko bør bekymre deg selv om du aldri har brukt Character.ai, fordi de frykter det er bevis på en større, slumrende krise, skriver BBC-spaltisten, og fortsetter.
– De gode nyhetene er noen enkle steg som kan beskytte deg.
Peker på personvernet
Garmain peker på KI-boblen flere mener er under oppbygging fordi det investeres enorme summer i teknologien uten å gi like store gevinster.
– Hvis boblen sprekker, vil et utall KI-selskaper slå seg sammen eller stenge ned. Dataen som milliarder av mennesker har gitt til KI-verktøy kan ta kjøpes av nesten hvem som helst. Du finner aldri ut hva som skjer med den, skriver Germain.
Han mener at også dem som ikke bruker KI blir rammet, da de som bruker KI kan dele informasjon om venner og familie.
Character.ai understreker på sin side at brukerdata og chatter er beskyttet av deres personvernerklæring.
– Våre rutiner for personvern og sikkerhet er uendret. Husk at du kan slette kontoen din eller eksportere dine data via appen eller vår nettside, skriver de i blogginnlegget i oktober.
– Veldig bekymret
Garmain vedgår at brukerdata ikke er del av avtalen som ligger an til å bli med Disney, men viser til at rettsdokumenter tilsier at selskapet kan selge dataen til andre kjøpere.
Han peker på at konkurser kan føre til at rettigheter man trodde man hadde, kan forsvinne, også i EU, og siterer en ekspert:
– Mengden informasjon KI-selskap har vil bli ansett som svært attraktivt i konkursprosesser. Uten flere regler på plass, er jeg veldig bekymret for hva annet den dataten kan bli brukt til, hvor den går hen, hvem den blir delt med og hva risikoen er for brukerne, sier Calli Schroeder, leder for AI and Human Rights Program ved the Electronic Privacy Information Center (Epic) i USA.
Så hva kan man gjøre? Garmain anbefaler å slette dataen sin, slik Character.ai også gir informasjon om.
– Her er det ekte rådet: Tenk gjennom hvilke tjenester som har særlig senistiv informasjon om deg. Hvis du slutter å bruke dem, bruk noen minutter på å prøve å slette det.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!