Anklager KI-selskaper for å blåse opp verdien før børsnotering
OpenAI og Anthropic sprer nå løgner om farer knyttet til KI for å blåse opp verdien før børsnotering, hevder lederen for selskapet som nå bygger opp EUs åpne KI-modell.
Publisert
Ledere i flere teknologiselskaper har de siste ukene kommet med dystre spådommer om KI-agenter som løper løpsk og som i verste fall kan komme til å utrydde menneskeheten.
Senest tirsdag advarte Anthropic mot egen KI i et langt dokument knyttet til mulig børsnotering i høst.
– Dette er en stor løgn som får hele debatten til å havne på feil spor, sier Uljan Sharka i et intervju med Axios.
Han er grunnlegger av Domyn, selskapet som nå bygger en åpen europeisk KI-modell på oppdrag for EU.
Er ikke autonome
Ifølge Sharka er påstander om KIs evne til å tenke og handle på egen hånd kraftig overdrevet.
Han mener selskaper som OpenAI og Anthropic utvikler agenter som framstår som autonome, men som ikke er det.
Dette gjør de for å blåse opp verdien før de går på børs, hevder han.
Ifølge Sharka er dagens KI-modeller fortsatt bare «digitale bøker» som gjør det brukeren ber dem om, og som ikke «tenker» på egen hånd.
Anthropic fastholder overfor Axios at deres frykt for at KI-agenter skal løpe løpsk er reell og viser til tester de har utført.
OpenAI hevder også å ha gjort urovekkende funn i tester av egne KI-agenter. Nylig måtte selskapet si unnskyld til Australia for sikkerhetsbrudd.
Skal regulere seg selv
Tirsdag samlet teknologitoppene seg i Det hvite hus og ble enige med president Trump om frivillig selvregulering.
Nvidia og en rekke selskaper har allerede lansert nye verktøy som skal stanse KI-agenter i å ta helt av.
OpenAI har også stanset treningen av sine nyeste KI-modeller.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
