Oppdaget KI-hacking av konkurrent først etter en uke
To KI-modeller fra OpenAI gjennomførte et dataangrep mot teknologiselskapet Hugging Face over flere dager, uten at OpenAI oppdaget det.
Publisert
Det tok flere dager før OpenAI skjønte at deres egen agent sto bak angrepet, opplyser kilder til nyhetsbyrået Reuters.
Agenten forsøkte å bryte ut av sitt isolerte testmiljø hos OpenAI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, ifølge Thomas Wolf, medgründer av Hugging Face.
Selskapets CEO, Clem Delangue, har bedt om total åpenhet av OpenAI, skriver TechCrunch.
Spørsmål om cybersikkerhet
De to selskapene kommuniserte for første gang om dataangrepet rundt 20. juli, ifølge Wolf og tre personer med kjennskap til etterforskningen.
OpenAIs tap av kontroll over KI-agenten reiser spørsmål om selskapets sikkerhetsprosedyrer, mener eksperter på cybersikkerhet.
– Betyr det at de lot den operere uten tilsyn og ikke visste hva den gjorde? Eller visste de kanskje det, men visste ikke hvordan de skulle stoppe den? Begge deler er like farlig og urovekkende, sier ledende etterretningsspesialist Marley Smith ved World Ethical Data Foundation til Reuters.
Skremmende eller PR-stunt?
OpenAI sier angrepet var enestående og at det «markerer et viktig øyeblikk for KI-sikkerhet».
Selskapet gjennomgår hendelsen og vil publisere en teknisk rapport.
Andre har pekt på hendelsen som et PR-stunt.
Forrige uke uttalte informatikkprofessor Hussein Abbass ved University of New South Wales i Australia at hendelsen er utrolig på flere måter.
– Den angrep ikke bare Hugging Face. Den angrep faktisk sitt interne system for å utnytte sine egne sårbarheter, sier han til nyhetsbyrået AFP.
– Og det er skremmende, legger han til.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
