En av verdens fremste forskere på kunstig intelligens (AI) og én av de tre som ofte omtales som AIs gudfedre, frykter at menneskeheten kan utslettes innen ti år, hvis AI-systemer kommer ut av kontroll.
Yoshua Bengio, professor ved Universitetet i Montreal i Canada, kom med den dramatiske advarselen da han presenterte en omfattende rapport om AI og risiko torsdag.
– Hvis ikke myndigheter griper inn, så vet jeg ikke hvordan vi skal komme oss gjennom dette, sa Bengio på eliteuniversitetet École normale supérieure (ENS) i Paris.
Han etterlyste strengere regulering og mer forskning på kunstig intelligens og sikkerhet.
Farlige våpen
Noen utfordringer knyttet til AI er vel kjent.
Blant annet kan teknologien brukes til å spre desinformasjon på nett. En del er også bekymret for at AI vil erstatte arbeidstakere og fjerne arbeidsplasser raskere enn nye arbeidsplasser skapes.
- Men Bengio peker også på helt andre farer, som at AI kan gjøre det lettere å lage kjemiske våpen og dødelige mikroorganismer.
- Ifølge den nye rapporten kan AI utarbeide stegvise planer for å lage slike stoffer og mikrober.
- Det er uklart om teknologien også kan håndtere mer praktiske utfordringer ved våpenproduksjon.
Rapporten kommer like i etterkant av at Google fjernet forbudet mot å bruke deres AI i våpensammenheng. OpenAI fjernet samme hinder i desember. De inngikk samtidig en militær kontrakt.
Snur: Nå vil også Google bruke AI til våpen
Vilje til å overleve?
På lengre sikt frykter Bengio at mennesker skal miste kontrollen over AI-systemer hvis de utvikler en egen «vilje til å overleve».
– Det som skremmer meg mest, er muligheten for at menneskeheten kan forsvinne innen ti år, sier Bengio.
Om lag hundre eksperter fra 30 land har deltatt i arbeidet med International AI Safety Report. Arbeidet har vært ledet av Bengio.
Han omtales ofte som en av tre «gudfedre» bak utviklingen av kunstig intelligens. De to andre er Geoffrey Hinton og Yann LeCun.
Terrorister har stor nytte av AI – krever tiltak mot misbruk
Medisinske framskritt
Hinton fikk i fjor nobelprisen i fysikk og deler Bengios bekymring.
LeCun, som leder AI-utviklingen til Facebook-eier Meta, mener bekymringen er overdrevet.
Mer optimistiske scenarioer for kunstig intelligens dreier seg blant annet om medisinsk forskning. På dette feltet har AI allerede bidratt til store framskritt.
Samme dag som Bengio kom med sin advarsel i Paris, erklærte De forente arabiske emirater at de vil investere opptil 50 milliarder euro i et stort AI-datasenter i Frankrike.
I forrige uke fikk kinesiske DeepSeek stor oppmerksomhet for sin AI-modell. Den økte tempoet i AI-kappløpet, noe som ifølge Bengio er uheldig i et sikkerhetsperspektiv.
