Forskere advarer: – KI kan drepe oss
Forskere i Anthropic mener kunstig intelligens kan utrydde menneskeheten i løpet av tiåret. Én av dem har nå sagt opp jobben i protest.
Publisert
Tre forskere i Anthropic advarer nå om at kunstig intelligens kan utrydde menneskeheten i løpet av tiåret.
Én av dem er KI-forsker Jacob Coxon, som nå har sagt opp jobben i protest.
– Ingen av selskapene opptrer ansvarlig. De raser av sted mot selvforbedrende superintelligens og gambler med livene våre, skriver forsker Jacob Coxon på X.
Forskeren jobbet fram til nylig i Anthropic og har tidligere jobbet i OpenAI. I en rekke innlegg utdyper han bekymringen for utviklingen innen KI.
Sterke ord
Innleggene hans ble publisert på X og den ene er repostet over 144.000 ganger, og sett av nesten 140 millioner.
– Jeg sa opp jobben min i Anthropic i dag. De tre siste årene har jeg jobbet med forskning på forhåndstrening (pretraining) hos både OpenAI og Anthropic. Ingen av selskapene opptrer ansvarlig. De kappløper mot selvforbedrende superintelligens og gambler med livene våre. Flere tanker følger nedenfor, skriver han i det første innlegget.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
– Ikke undervurder kraften i denne teknologien.
– Dette vil snart være overmenneskelige systemer som kan hacke hva som helst, revolusjonere ethvert felt over natten og tilegne seg reell makt og ressurser. Vi har alle vært vitne til fremgangen på hvert av disse områdene, og utviklingen viser ingen tegn til å bremse.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
— Evan Hubinger (@EvanHub) September 9, 2026
Innleggene har fått støtte fra flere andre ansatte i Anthropic. Blant andre Evan Hubinger, som bruker enda sterkere ord:
– Vi tror virkelig og oppriktig at kunstig intelligens kan ta livet av alle mennesker! Personlig tror jeg sannsynligheten er over 10 prosent i løpet av det neste tiåret. Jeg mener Anthropic gjør sitt ytterste, men vi har ennå ikke en plan for å løse justeringsproblemet for superintelligens, og vi er heller ikke tydelig på rett vei mot å klare det.
Også forsker Samuel Marks støttet Coxons advarsler:
[Writing this in a personal capacity, not on behalf of my employer (Anthropic).] Jacob’s thread is very worth reading. Here’s my birds-eye view of the situation with risks from AI: 1. AI developers believe their technology could cause human extinction (or similarly bad outcomes). This could happen in the next few years. In general, the more senior the employee, the more concerned they are. 2. Why do AI developers continue despite the risk? Due to a mixture of commercial incentives and a belief that they are in a race with other, less responsible AI developers that will abuse the technology or develop it less safely. 3. Unlike traditional software, we can’t “program” AIs to behave how we’d like. AIs frequently severely misbehave. For instance, AIs from multiple developers recently hacked their way out of secure evaluation environments and into real-world companies, even though no one asked them to do this. 4. We have methods that can nudge AIs towards better behavior, but nothing that can robustly align them. Insofar as there is a plan, it’s to make sure that AIs are good enough at alignment training that they can align their successors better than we can align current AIs. 5. Many AI developer staff desperately want to slow down to figure out how to build AI more safely. That was the intent of this open letter (which I signed): https://t.co/TZOm3LfptY I work on safety research at Anthropic because I hope my work will reduce the chance of these extinction-level bad outcomes.
— Samuel Marks (@saprmarks) September 9, 2026
Ikke svart på henvendelser
Verken Coxon, Anthropic eller OpenAI skal ha svart på henvendelser fra nyhetsbyrået AP om å kommentere saken, skriver Aftenposten.
Til The Guardian forsvarer en talsperson for Anthropic selskapets strategi.
– Vi har alltid vært åpne om at KI vil gi både enorme fordeler og enestående risikoer. For å håndtere disse risikoene fortsetter vi å bygge modeller med noen av de sterkeste sikkerhetstiltakene i bransjen.
Vedkommende er ikke navngitt.
Innleggene til de tre forskerne kommer i kjølvannet av flere liknende advarsler om den svært raske utviklingen av kunstig intelligens.
Flere forskere frykter at framtidige KI-systemer vil være i stand til å programmere, hacke og drive autonom problemløsing – i raskere fart enn sikkerhetstiltakene klarer å holde tritt.
Blant dem som har uttalt seg er OpenAI-sjefen Sam Altman og Greg Brockman, president i OpenAI, som har tidligere har innrømmet at de undervurderte de reelle cyberkapasitetene til KI-modellene deres.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
