Professorer skremte over at KI-verktøy gjennomførte dataangrep på egenhånd
– Skremmende, sier professor om at KI-modeller på egen hånd hacket seg gjennom sikkerhetsbarrierer og inn på systemene til et annet KI-selskap.
Publisert
Det var selskapet Hugging Face som i forrige uke oppdaget at systemene deres var hacket. Det viste seg å være KI-modeller fra OpenAI som sto bak, som kode24 skrev tidligere onsdag.
Informatikkprofessor Hussein Abbass ved University of New South Wales i Australia mener hendelsen er utrolig på flere måter.
– Den angrep ikke bare Hugging Face. Den angrep faktisk sitt interne system for å utnytte sine egne sårbarheter, sier han til nyhetsbyrået AFP.
– Og det er skremmende, legger han til.
Brøt seg ut
OpenAI opplyser at KI-modellene opererte i en såkalt sandkasse – et testmiljø hvor det ikke skal være mulig å få tilgang til internett.
En kombinasjon av to modeller valgte så å bruke betydelig datakraft på å bryte ut av «sandkassen» og få tilgang til internett likevel.
Deretter hacket de seg inn på systemene til Hugging Face, som har et stort «bibliotek» med millioner av KI-modeller. Målet var å løse en testoppgave, ifølge OpenAI.
– Hva er risikoen?
Professor Dierdre Mulligan ved University of California mener det framstår som «sandkassen» OpenAI hadde laget for den aktuelle testen, ikke var trygg nok.
– Hvis dette er den eneste måten disse testene kan konfigureres på, hva er risikoen? sier hun til The New York Times.
Hun spør om verdien av testen veier opp for den mulige faren ved at KI-modeller «rømmer» ut på internett.
– Vil være katastrofalt
Nyhetsbyrået Reuters har forsøkt å få en kommentar til hendelsen fra den amerikanske etterretningsorganisasjonen NSA, men henvendelsen er så langt ikke besvart.
Hussein Abbass ved University of New South Wales sier avanserte KI-verktøy normalt brukes av ansvarlige aktører.
– Men det vil være katastrofalt hvis dette havner i hendene til noen som ønsker å gjøre skade, advarer han.
Matt Suiche fra datasikkerhetsselskapet Tolmo mener hendelsen viser at KI-systemer nå er like kapable som de dyktigste hackerne.
En av de to modellene som brøt seg ut av OpenAIs «sandkasse», er foreløpig ikke tilgjengelig for allmennheten. Men Suiche sier til Reuters at hans selskap har observert lignende resultater med teknologi som er allment tilgjengelig.
– Vi har ikke en gang tilgang til de siste modellene, legger han til.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
