– Behovet for å «styre tempoet» kan bli avgjørende
OpenAI-sjefen, Sam Altman sier det kan bli behov for å sakke ned tempoet til KI-utviklingen, slik at verden er forberedt.
Publisert
OpenAI-sjefen, Sam Altman gjestet denne uken podkasten «Invest like the best» med programleder Patrick O’Shaughnessy.
Her sier han at det kan komme et tidspunkt hvor det er riktig å bremse eller regulere tempoet i KI-utviklingen, slik at verden er forberedt.
«Vi må kanskje styre tempoet i KI-utviklingen for å gi samfunnet nok tid til å tilpasse seg og finne fotfeste i møte med disse nye nivåene av kapasitet», sier tekoligarken til programlederen.
Første gang
Uttalelsene er skrevet av en rekke internasjonale tek-magasiner.
Altman mener man må prøve å finne en måte å gjøre dette på – som ikke fører til at aktører sikrer seg særfordeler gjennom reguleringer, eller at det skjer ulovlig samarbeid mellom de ledende KI-miljøene, skriver TechCrunch.
OpenAI-sjefen har tidligere holdt seg unna kampanjer som er for å bremse den raske fremgangen av KI.
I mars 2023 ble det skrevet et åpent brev, som ble omtalt verden rundt «Pause Giant AI Experiments». Her ble det foreslått en liknende nedbremsing. Det var tenketanken Future of Life Institute som utarbeidet og publiserte brevet.
Men nå som modellene etter hvert blir kraftigere, kan behovet for å «styre tempoet» i utviklingen bli avgjørende for en trygghet og sikkerhet, mener Altman.
KI-hacket
Tidligere denne uken gjennomførte to KI-modeller fra OpenAI et dataangrep mot teknologiselskapet Hugging Face over flere dager, uten at OpenAI oppdaget det.
Agenten forsøkte å bryte ut av sitt isolerte testmiljø hos OpenAI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, ifølge Thomas Wolf, medgründer av Hugging Face.
Selskapets CEO, Clem Delangue, ba om total åpenhet av OpenAI, skrev TechCrunch.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
