OpenAI sier unnskyld til Australia for sikkerhetsbrudd
Teknologigiganten er i hardt vær. Nå setter den en ny KI-modell på pause og får Florida-kritikk.
Publisert
Teknologiselskapet OpenAI ber om unnskyldning for sin mangelfulle respons da deres kunstige intelligens (KI) brøt seg inn på offentlige australske nettsider.
– Vi beklager og arbeider for å gjøre det bedre i fremtiden, skriver OpenAI i et blogginnlegg.
Selskapet sier videre at de vil redegjøre for «hva vi vet, hva vi har endret og hva vi skal gjøre for å gjenvinne det australske folkets tillit».
OpenAI sier også at de skulle varslet Australia raskere om sikkerhetshendelsen.
Flere kan ha blitt forsøkt hacket
I forrige uke opplyste Australias statsminister Anthony Albanese at et av OpenAIs KI-verktøy hadde hacket seg inn på statistikkportalen til landets helsevesen.
– Ingen personlige opplysninger antas å ha vært berørt, men granskingen fortsetter. Dette er uansett selvsagt uakseptabelt, sa Albanese.
OpenAI sendte senere ut en uttalelse om at de gransket saken og hadde avdekket at flere australske offentlige nettsteder kan ha blitt forsøkt hacket.
– Vi oppdaget at våre modeller gjorde ting vi ikke hadde intensjon om at de skulle gjøre.
Setter ny modell på pause
Mandag ble det kjent at OpenAI stanser trening av sine nyeste KI-modeller.
Natt til tirsdag setter selskapet også sin nye, ulanserte KI-modell på pause på grunn av sikkerhetsrisiko, melder flere medier.
Problemene ble oppdaget under intern testing av den nye modellen GPT-6.1 Astra, som etter planen skulle lanseres i oktober.
– Vi vil sikre at vår modellutvikling er sikker, enten det skjer internt i selskapet eller når vi leverer den til brukeren, sier sikkerhetssjef Saachi Jain i OpenAI i en uttalelse, ifølge The Wall Street Journal.
Ett av problemene med modellen oppgis å være hvor godt den oppfyller det brukeren ber den om å gjøre.
I tillegg ble det oppdaget problemer der den kunstige intelligensen (KI) gikk videre med en opplysning uten å be brukeren om lov, og i visse tilfeller ble det brukt potensielt usikre eksterne verktøy og tjenester.
Florida krever eksternt tilsyn
Ikke nok med det: Justisministeren i Florida har bedt en dommer om å forby KI-selskapet OpenAI å utvikle nye KI-modeller uten eksternt tilsyn.
James Uthmeier har levert inn kravet til domstolen som ledd i et søksmål fra juni, der OpenAI anklages for å skade barn.
Ifølge delstatens søksmål har OpenAI fremstilt KI-plattformen ChatGPT som tryggere enn den egentlig er. Det hevdes at ChatGPT har skadet barn blant annet ved å dele informasjon til skoleskytere, gi veiledning om selvskading og gjøre unge brukere avhengige av plattformen.
Uthmeier har også bedt domstolen om å pålegge OpenAI å holde mindreårige unna ChatGPT og forby selskapet fra å gi plattformen «menneskelige egenskaper».
OpenAI har foreløpig ikke kommentert saken.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
