Mer enn 1.100 personer, inkludert Elon Musk, Apple-legenden Steve Wozniak og Tristan Harris fra Center for Humane Technology, har signert et åpent brev som oppfordrer "alle AI-laboratorier til umiddelbart å pause opplæringen av AI-systemer kraftigere enn GPT-4 i minst 6 måneder", skriver TechCrunch.
I brevet står det blant annet:
- AI-systemer med intelligens som kan konkurrere med mennesker kan utgjøre en alvorlig risiko for samfunnet og menneskeheten, noe som vises av store mengder forskning og er anerkjent av fremtredende AI-labber.
- Internett blir ikke til å kjenne igjen, skriver Jørgen om AIosmosis
Mer demokrati
Videre har Musk, Wozniak og Harris skrevet under på at:
- Samtidige AI-systemer blir nå konkurransedyktige mot mennesker på generelle oppgaver, og vi må spør oss selv: Burde vi la maskinene flomme informasjonskanalene våre med propaganda og usannheter? Burde vi automatisere alle jobbene, inkludert de meningsfulle? Burde vi utvikle ikke-menneskelige bevisstheter som etter hvert kan bli overtallige, utmanøvrere, fjerne og erstatte oss? Burde vi risikerer å miste kontrollen over sivilisasjonen vår?
Ifølge brevet burde ikke slike avgjørelser bli delegert til ikke-valgte tech-ledere.
Er GPT-4, ChatGPT og Bard starten på slutten for frontend-utvikling?
Vil ha uavhengig gjennomgang
Kraftige AI-systemer burde bare utvikles når vi er sikre på at effektene vill være positive og risikoene håndterbare, står det.
- Sikkerheten må være godt begrunnet og øke i takt med et systems potensielle effekter. OpenAIs nylige uttalelse om generell kunstig intelligens sier at "På et punkt kan det bli viktig å få uavhengige gjennomganger før man trener fremtidige systemer, og være enige om i de mest avanserte forsøkene å begrense vekstraten til datakraften brukt for å skape nye modeller". Vi er enige. Dette tidspunktet er nå, skriver de.