Pavens første «manifest»: Advarer mot KI og beklager slaveriet
Pave Leo tar til orde for å «avvæpne» kunstig intelligens (KI) og advarer om nye former for slaveri i kjølvannet av den teknologiske omveltningen.
Pave Leo presenterte 2. pinsedag sitt aller første encyklika – som er et offisielt skriv fra paven til kirkens biskoper og troende.
Her ba amerikaneren om unnskyldning for at Den katolske kirken ventet i flere hundre år med å fordømme slaveriet. Paven slo også fast at teorien om «rettferdig krig» – som nylig er forfektet av Donald Trumps administrasjon – er utdatert.
I manifestet advarer paven også mot bruk av kunstig intelligens i våpen og krigføring og sier dødelige beslutninger ikke kan overlates til teknologi.
– Ingen algoritmer kan gjøre krig moralsk akseptabelt, skriver han videre.
Advarsler om KI
Det omfattende rundskrivet har tittelen «Magnifica Humanitas» – «Praktfull menneskehet» og ble presentert mandag av paven selv i Roma. Manifestet dreier seg også om å trygge menneskeheten i en tid med økende bruk av kunstig intelligens.
– Å avvæpne KI betyr ikke å avvise teknologi, men å hindre den i å dominere menneskeheten, skriver paven.
KI skal være «menneskevennlig», tilgjengelig for alle og åpen for diskusjon og debatt, framholdt paven.
Pave Leo tok opp den transatlantiske slavehandelen i tilknytning til det han kaller nye former for slaveri og kolonialisme som den digitale revolusjonen driver fram. Han trakk her fram den uregulerte arbeidskraften som brukes for å fremskaffe mineraler til databrikker brukt til KI.
Kommersielt, geopolitisk og personlig press
Medgründer av Anthropic, Chris Olah, sa at ekstern regulering av KI er avgjørende da han besøkte Vatikanet mandag.
Han la til at KI-selskaper opererer under sterkt kommersielt, geopolitisk og personlig press som kan stå i strid med samfunnets bredere interesser.
– Hvert ledende KI-laboratorium opererer innenfor et sett av insentiver og begrensninger som noen ganger kan komme i konflikt med å gjøre det rette, sa han, og la til at selv velmenende forskere blir påvirket av disse kreftene.
Dette gjør ekstern kontroll avgjørende, mener KI-gründeren.
