Anthropic, OpenAI og Google samarbeider om KI-sikkerhet

OpenAI jobber med konkurrentene Anthropic PBC og Google DeepMind for å håndtere sikkerhetsspørsmål knyttet til kunstig intelligens, skriver Bloomberg.

Det trappes dermed opp i bransjen for å svare på en voksende bekymring for at teknologien utgjør en økonomisk og sikkerhetsmessig trussel.

Chris Lehane, sjef for OpenAIs globale virksomhet, sier at samarbeidet med Anthropic og Google har pågått i flere uker, skriver Bloomberg.

Ifølge Lehane ser ikke OpenAI behovet for et konkurranserettslig unntak for at de tre KI-selskapene skal kunne koordinere seg om sikkerhetsspørsmål.

– Det er bedre å forsøke å jobbe sammen for å prioritere sikkerhet, sa Lehane på en pressekonferanse i Washington tirsdag.

EU gjør det Trump ikke vil

Bekymringen for KIs eksistensielle risikoer har fått stor oppmerksomhet etter at Anthropic-sjef Dario Amodei lørdag publiserte et essay der han oppfordret til å bremse utviklingen av de mest avanserte systemene, slik at forskere bedre kan forstå de potensielle truslene.

Amodeis innlegg fikk raskt støtte fra OpenAIs toppsjef Sam Altman og SpaceXAI-sjef Elon Musk.

Mens Donald Trump ikke virker spesielt ivrig på å regulere bransjen, og er mest opptatt av å vinne KI-kappløpet mot Kina, vil EU i november legge frem en strategi som skal sikre at kunstig intelligens skaper verdi på en trygg og klimavennlig måte, sier EU-kommisjonens leder.

Anthropic-sjefen: – Vi må senke tempoet

Viser til at KI er i ferd med å utvikle seg selv, og bryter ut av testmiljøene.

Trapper opp innsatsen

Ursula von der Leyen holder onsdag en tale om unionens tilstand. Den siste tiden har det fra flere hold blitt reist alvorlige bekymringer om farene ved ukontrollert KI-utvikling.

En av dem som har sagt fra, er den tidligere Anthropic-utvikleren Jacob Coxon, som sa opp stillingen sin og anklaget både selskapet og OpenAI for å delta i et kappløp mot selvforbedrede superintelligens uten å opptre ansvarlig. Han har tidligere jobbet i OpenAI.

Forskere advarer: – KI kan drepe oss

Forskere i Anthropic mener kunstig intelligens kan utrydde menneskeheten i løpet av tiåret. Én av dem har nå sagt opp jobben i protest.

– Jeg vil invitere de ledende, banebrytende laboratoriene til en diskusjon om hvordan vi kan støtte pågående bransjeinnsats for å regulere tempoet, sa von der Leyen til EU-parlamentarikerne.

– Vi vil trappe opp innsatsen sammen med likesinnede partnere som Canada, Storbritannia og andre, fortsatte hun.

Anthropic og OpenAI er blant de ledende laboratoriene som bygger verdens mest avanserte og kraftfulle KI-modeller. Enkelte forskere ønsker at utviklingen av KI skal bremses.

– Vibbekodere blir ufrivillige CTO-er

Kjell-Vidar Åhman Teig ser stadig oftere hvordan vibbekoda løsninger blir brukt av store organisasjoner, og advarer mot konsekvensene. – Er du klar for å ta ansvaret for den?