– En håndfull menn har nesten ubegrensa makt over KI

– En håndfull menn har nesten ubegrenset makt over kunstig intelligens, advarer FNs høykommissær for menneskerettigheter, Volker Türk.

Mandag åpnet Türk den 63. sesjonen i FNs menneskerettighetsråd i Genève.

I talen tegnet han et dystert bilde av stadig flere konflikter, klimakaos og en rask teknologisk omstilling som bidrar til polarisering verden over.

"Utnytter våre data"

– Vi lever i en ekstremenes tidsalder, sa Türk, som særlig advarte mot farene ved bruk av kunstig intelligens (KI).

– En håndfull menn har nesten ubegrenset makt over KI, som vi gjentatte ganger får høre har ufattelig regnekraft, sa Türk, uten å nevne noen ved navn.

– De snakker om frihet, men ved nærmere ettersyn viser det seg at det stort sett bare er snakk om frihet til å utnytte våre data, fortsatte han.

Vil begrense utviklere: – De som leser dette, vil ikke like det

Mens sikkerhetsfolk flest bekymrer seg for KI og tredjeparter, er Tanya Janca mer bekymret for den enkelte utvikler. Og tror løsningen kan være ubehagelig for dem.

Vil ha garantier

Türk sa videre at han deler bekymringene til flere i IT-verdenen, som advarer og sier at avansert KI kan utgjøre en eksistensiell trussel mot menneskeheten.

FNs menneskerettssjef etterlyser en bred internasjonal innsats for å innføre sikkerhetsbegrensninger.

– Jeg ber om en total mobilisering for å få på plass garantier for sikkerheten rundt KI før det er for sent, sa han.

1 av 2 norske utviklere genererer det meste eller alt med KI

Samtidig er 81 prosent bekymra for feil de aldri oppdager, viser kode24s tall. – For hvis så mye kode blir generert, har man da kontroll på det som kommer ut?