- Større sjanse for romvesen enn at GPT-4 har «generell intelligens»
Microsoft-forskere mener GPT-4 viser tegn til AGI - den norske AI-eksperten Morten Goodwin tviler.
- Akkurat nå er det etter min mening større sjanse for at romvesen kommer på besøk, enn at AGI dukker opp i disse språkmodellene, sier Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder, til kode24.
Men onsdag forrige uke publiserte Microsoft-forskere en preprint, altså en ikke-fagfellevurdert forskningsartikkel, med tittelen "Sparks of Artificial General Intelligence: Early experiments with GPT-4."
Her hevder forskerne at GPT-4 viser tidlige tegn på generell kunstig intelligens (AGI), noe som betyr at den har evner som er på eller over menneskelig nivå, skriver Vice.
Det er sannsynlig at AGI vil fremstå som mer "alien" enn faktiske romvesener.
"Tidlig versjon av AGI"
Ifølge Vice står påstanden i sterk kontrast til hva OpenAI-sjef Sam Altman tidligere har uttalt om GPT-4, nemlig at modellen fortsatt inneholdt feil og var begrenset.
Forskerne modererer seg noe i artikkelen, som lister opp skjevheter og begrensninger som den store språkmodellen inneholder. Vice skriver at dette reiser spørsmålet om hvor nær AGI GPT-4 egentlig er, og om AGI blir brukt som "clickbait".
- Vi demonstrerer at, bortsett fra å mestre språk, kan GPT-4 løse nye og vanskelige oppgaver som omfatter matematikk, koding, syn, medisin, jus, psykologi og mer, uten å trenge noen spesiell oppfordring, skriver forskerne i artikkelens sammendrag.
Forskerne skriver videre at GPT-4s prestasjoner i alle disse oppgavene er "slående nær" menneskelig nivå og overgår tidligere modeller som ChatGPT.
- Gitt bredden og dybden av GPT-4s evner, mener vi at det rimeligvis kan betraktes som en tidlig, men fortsatt ufullstendig, versjon av et kunstig generell intelligenssystem (AGI).
Kan ikke vite noe
Goodwin ved Universitetet i Agder er altså uenig, og mer enig med Altmanns mer nyanserte uttalelser.
- Vi kan ikke forutsi hvordan AGI vil utvikle seg, og det er sannsynlig at AGI vil fremstå som mer "alien" enn faktiske romvesener, gitt dets fundamentalt forskjellige tanke- og beslutningsprosesser, sier han.
Goodwin legger til at potensialet og konsekvensene av AGI fortsatt er uklare, noe som skaper usikkerhet og spenning omkring menneskehetens fremtid og den teknologiske utviklingen.
- Om dette er starten på AGI eller ikke vet vi selvsagt ikke. På samme måte som vi ikke visste om flyvemaskinene var starten på romskiptiden, sier han.
Språkmodeller blir ikke til AGI
Goodwin sier at selv om store språkmodeller, som GPT, har gjort store fremskritt innen språkforståelse og tekstgenerering, er de fortsatt, etter hans mening, ikke et direkte steg mot AGI.
- Dette skyldes at disse modellene primært er basert på mønster-gjenkjenning og statistisk læring, mens AGI krever en mye dypere forståelse av verden og evnen til å utføre en rekke oppgaver på tvers av ulike domener, sier han.
Ifølge Goodwin mangler store språkmodeller også sentrale egenskaper som autonomi, abstrakt resonnement, en indre motivasjon og bevissthet - noe som er nødvendig for å kunne regnes som AGI.
- I tillegg er språkmodeller avhengige av enorme mengder trening og data, noe som begrenser deres evne til å lære på samme måte som mennesker gjør, gjennom generalisering fra et lite antall eksempler, sier han.
Tror AGI er realistisk
En ting er også at modellene inneholder feil, fordommer og misoppfatninger som kan direkte føres tilbake til treningsdataene.
- Altså, vi kan ikke fortelle modellene hva som er rett, den må trenes opp til det. En AGI vil kunne bli overbevist kun med gode argumenter.
Han legger til at store språkmodeller er imponerende, men fortsatt begrenset, form for kunstig intelligens som ikke nødvendigvis leder oss direkte mot AGI.
- Jeg tror AGI er realistisk, men det er vanskelig å fastslå en nøyaktig tidslinje for når AGI vil bli realisert. Ettersom dette er avhengig av både teknologiske fremskritt og forskning.