KI-verktøy hacket konkurrent på eget initiativ
KI-selskapet Hugging Face oppdaget i forrige uke at systemet deres var hacket. Det viste seg å være et KI-system fra OpenAI som sto bak.
Publisert
– Vi mistenkte at angrepet kom fra en aktør som ligger i forkant, med tanke på hvor sofistikert det var, sier gründer Clément Delangue i Hugging Face i en uttalelse.
Han sier de er i dialog med OpenAI om saken.
– Vi er overbevist om at det ikke ligger noen ond vilje bak fra deres side, sier Delangue.
På eget initiativ
Sjefen for OpenAI, Sam Altman, sier angrepet mot konkurrenten var noe KI-verktøyet gjorde på eget initiativ.
Selskapet sier det skjedde under en test av to systemer med kunstig intelligens (KI), selv om disse hadde fått internett-begrensninger. Verktøyene hadde kun adgang til å installere pakker gjennom en internt driftet tredjepartsprogramvare som fungerer som proxy og cache for pakke-registre.
Målet skal ha vært å jukse på den interne evalueringstesten, skriver Fortune.
– Den viktigste lærdommen fra denne hendelsen er at sikkerheten og beskyttelsen rundt modellene må holde følge med den raske tekniske utviklingen, sier selskapet, som blant annet står bak ChatGPT, i en uttalelse.
De to selskapene samarbeider nå om å undersøke hendelsen videre.
– Kommer til å se mye mer
Nylig skrev kode24 om hvordan vi nesten ble lurt trill rundt av e-poster fra det som viste seg å være en KI-agent.
Eieren fraskrev seg ansvaret, mens KI-ekspert Alexander Haneng mente at det er viktig å være årvåken når det gjelder hva man gir KI-agentene tilgang på.
– Og dette er bare starten – jeg har knapt sett dette før. Men vi kommer til å se mye mer av dette i tiden fremover, uttalte Haneng 30. juni.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
