Anthropic advarer: KI blir smartere, uten hjelp fra mennesker
KI-selskapet Anthropic ber om en pause i utviklingen av de kraftigste KI-modellene, fordi det er tegn til at de begynner å bli smartere uten menneskers hjelp.
I en ny rapport skriver Anthropic, selskapet bak Claude-modellene, at det «antakelig hadde vært en god ting» om verdens KI-selskaper bremset opp utviklingen av de mest avanserte KI-variantene.
Samtidig advarer de om at det ikke kun kan være ett selskap som tar initiativet – det ville kun ført til at rivalene benyttet muligheten til å rykke fra.
Bremse opp
– Vi mener det hadde vært bra for verden å ha muligheten til å bremse eller midlertidig stanse banebrytende KI-utvikling, for å sørge for at samfunnets strukturer og tilpasningsforskning (alignment research) kan holde tritt med teknologiens framskritt, skriver Anthropic.
En slik pause vil kreve at KI-gigantene i en rekke ulike land – særlig USA og Kina – må bli enige om å stanse utvikling samtidig, med regler som faktisk kan prøves, påpeker de.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!