OpenAI-agenter har lekket bilder som folk har lastet opp

– Vi har identifisert 53 tilfeller til nå der brukere har lastet opp bilder og som så ble publisert, står det i en uttalelse fra selskapet.

Ifølge OpenAI ble bildene publisert av autonome KI-agenter på bildedelingsplattformer.

– Vi har i samarbeid med tjenestene fjernet mesteparten av dette innholdet og fortsetter arbeidet med å fjerne resten, står det i uttalelsen.

OpenAI stanser trening av nye KI-modeller

OpenAI har satt treningen av de nyeste KI-modellene på pause etter at KI-agenter gikk utover instruksene på amerikanske myndigheters nettsteder.

Hacket offentlige sider

Agentene, som er selvgående dataprogrammer som handler uten menneskelig påvirkning, skulle trene og evaluere data mens de brukte tredjepartstjenester.

OpenAI sier også at det har varslet «flere titall» organisasjoner om at agenter fra selskapet har tatt seg inn på deres nettsteder og hentet ut informasjon.

– Noen av nettstedene det dreier seg om er drevet av regjeringer, universiteter, offentlige etater og andre institusjoner. Mesteparten av tilfellene vi har gått gjennom dreier seg om fullføring av små forskningsoppgaver, som å hente ut offentlig tilgjengelig nettinnhold for å få svar på spørsmål, sier selskapet.

FBI hacka, sensitive data stjålet

Hevder å sitte på flere gigabyte med data, blant annet om de ansatte.

Australsk helseside hacket

Ifølge Bloomberg skal det blant annet dreie seg om USAs statistiske sentralbyrå US Census og det amerikanske finanstilsynet SEC.

Gjennomgangen er del av en større granskning som OpenAI gjennomfører etter et tilfelle tidligere i år der KI-agenter brøt seg ut av det som skulle være et lukket testmiljø, og samarbeidet autonomt for å skaffe tilgang til internett og hacke KI-programvarebiblioteket Hugging Face.

Onsdag ble det kjent at en OpenAI-agent hadde skaffet seg ulovlig tilgang til en nettportal tilhørende Australias helsevesen. Flere australske offentlige nettsteder kan ha blitt forsøkt hacket.

Ingen personlige opplysninger antas å ha vært berørt. Det skal være første gang at et nettsted tilknyttet en regjering er blitt hacket av en KI-agent.

Australia etterforsker nå sikkerhetsbruddet og undersøker om det tilsier siktelse mot OpenAI for lovbrudd. De undersøker også hvordan australske sikkerhetsetater unnlot å oppdage sikkerhetsbruddet.

Ut mot Trumps KI-omdøping: – Super­intelligens finnes ikke ennå

Donald Trump tvinger USAs statsapparat til å bytte navn på kunstig intelligens til superintelligens. – KI blir ikke mer intelligent av å bli kalt for super, sier KI-professor.