Om KI-debatten: – Det skal ikke være noen stor skam å snu
Michael Odden reagerer på skyttergravene i KI-debatten blant utviklere. – Kanskje er ikke alle som er uenige med deg dum, ludditt eller teknofascist, skriver han.
Dette er en komprimert versjon av en lengre tekst om det å diskutere sak, spesielt satt opp mot dagens KI-tumulter.
Altfor mange av dagens diskusjoner tyr til ekstremer, og overivrig tolking av motpartene i verste mening. De ubegrunnede stråmennene florerer.
Vi ser det i diskusjoner flest, og ikke minst i KI-diskusjonen. Vi ser det i sosiale medier, og vi ser det på spalteplass.
Kanskje er ikke alle som er uenige med deg dum, ludditt eller teknofascist? Kanskje finnes det noe imellom her?
Kanskje skiller våre bakgrunner og fokusområder seg såpass at vi ikke alltid ser det store bildet og hopper litt raskt til antakelser? Kanskje er ikke dette fullstendig endimensjonalt?
La oss legge inn litt innsats og forsøke å bryte det ned.
Velkommen til en dilemma- og spørsmålsbonanza!
Det mest åpenbare først: De ulike typene KI
Under den store KI-paraplyen skjer det mye spennende.
Hvilke varianter vi ser på her spiller en stor rolle for mange av fordelene og ulempene en møter.
Vi kommer videre til å fokusere på de transformer-baserte, generative modellene — slik som LLMer med flere — men mange av problemstillingene og spørsmålene som fremmes kan allikevel heves forbi disse.
Bruksgrad og kvalitet
Vi kan se at all den tid de stadig øker sjansen for å generere akseptable resultater, har de også fundamentale mangler.
Der veggen møtes på treningsfronten, kompenseres det nå med kontekstvinduer og kreativ bruk av strikk, binders og hyssing i form av agenter som kan iterere, verifisere og integrere mer pålitelige støtteverktøy.
Vi kan, isolert sett, vedkjenne at det er imponerende tekniske kapabiliter, samtidig som de kanskje ikke er applikable for enhver problemstilling.
Det etiske og det lovlige rundt bruksområder
Sett bort fra hva dagens — og fremtidens — tekniske løsninger øyensynlig er i stand til, er det verdt å ha en annen diskusjon rundt hva en bør bruke det til, og hvor ansvaret for det som lages skal ligge.
Hvor mye av ansvaret skal legges kun på de som genererer, satt opp mot hvilket ansvar som også ligger på de ansvarlige bak produktene selv? Være seg ved plagiat eller ved grovere lovstridige situasjoner.
Skal alle produkter få lages som i et vakuum, uten noen hensyntakelse til omverdenen?
Det etiske og det lovlige rundt treningsmateriale
På den ene siden har vi hva lovverk vil ende opp med å si.
På den andre siden er det verdt å stille seg spørsmålet: Spiller det noen rolle for deg hvorvidt de som står for treningsmaterialet til KI-modeller blir anerkjent og/eller kompensert for sine bidrag?
Hvor mye er en potensiell fremtidig generell kunstig intelligens verdt målt opp mot kostnadene en bør være villig til å ta for å komme dit? Hva tror vi dette gjør med viljen til å skape nye verk? Hvilke insentiver har vi?
Skal det være «fair use» å lage produkter trent på enhver bit tilgjengelig informasjon, uavhengig av lisensvilkår og åndsverkslovgivning?
Verdsettelse av det menneskeskapte
Spiller det noe rolle for deg om innhold du ser/leser/hører/spiller kommer farget av liv levd, eller handler det kun om hvorvidt noe er øyeblikkelig tiltalende nok?
Og hvilke deler av et skaperverk er det mest kritisk for deg at har hatt direkte menneskelig involvering?
Det langtidsfilosofiske
Hva gjør det med oss når vi slutter å bry oss om detaljer?
Hva skjer om vi slutter å bygge basiskunnskap som fundament for å dermed utlede og bygge ny kunnskap på toppen? Hva skjer om vi kun bryr oss om de øyensynlige resultatene - den umiddelbare tilfredsstillelsen?
Nå er ikke jaget om å slippe å forholde seg til det konkrete noe nytt. Vi har sett det i mange år allerede, eksemplifisert blant annet ved avhengighetsdrevet utvikling: hvem er vel vi til å tenke på hvordan man skal avgjøre om et tall er oddetall når vi har is-odd?
Men det forsterkes, og det akselereres.
Vil «løftet» om at omtrentlig presis kunnskap blir servert «on demand» være godt nok?
Talspersoner og tillit
Når det kommer ekstreme utsagn så er det gjerne verdt å stille seg et par spørsmål:
- Hva har denne personen å tjene på at utsagnet tas som det er
- Har denne personen vært til å stole på riktigheten til tilsvarende ekstreme påstander tidligere?
- Finnes det tilstrekkelig bevis for å understøtte gitte påsagn?
Eller rettere sagt:
«Extraordinary claims require extraordinary evidence», som Carl Sagan sa.
Når personer i ledelsene i Nvidia, OpenAI eller Anthropic kommer med utsagn som i all hovedsak vil sørge for at deres egen omsetning går opp, så er det helt innafor å være en smule kritisk.
Økonomisk bærekraft
Såvidt meg bekjent så er det ingen av de ledende selskapene i front på modell-siden som har en bærekraftig inntjeningsmodell.
Når (eller hvis) den økonomiske boblen sprekker, og resten skrur opp prisene, og vi har bygd store mengder avhengigheter til proprietære modeller: hvor snart og hvor godt vil vi kunne gjenopprette produktivitet?
De som tjener penger nå er i hovedsak de som selger og tilrettelegger maskinvaren dette kjøres på - samt selskapene som bygger på toppen av de foreløpig sterkt subsidierte modellene.
«When there's a gold rush, sell shovels», ifølge forretningsvettregel[0].
Opphopning av kalkuleringskraft og å gjøre seg avhengig av tredjeparter
Et fåtall selskaper står i dag for de aller største maskinparkene. Med stor margin.
Legger vi til at disse aktørene nå tar praktisk talt beslag på nødvendig maskinvare for å kunne lage alternative oppsett så risikerer vi en situasjon der en blir nødt vil å enten leie maskinkraft av disse monopol-holderne, innfinne seg i et langt svakere oppsett, eller rett og slett avstå helt.
I hvilken grad ønsker vi å fortsette å gjøre oss stadig mer avhengige av vilkårlige tredjeparter?
På den andre siden så ser vi stadig økt ergonomi rundt oppsett av lokale modeller, og det er interessant å se hva en kan gjøre selv med svakere modeller når en frikobler seg fra tokenfinansieringen.
Personvern og sikkerhetsrisiko
Dette er skydiskusjonen. På steroider. I tillegg til å være avhengig av en tredjepart rent funksjonsmessig, så sender vi de også alle våre data vel vitende om at de har all kapabilitet på plass til å inlemme disse rett inn i treningssettene sine.
Kanskje gjør de det ikke i dag, men vi har lite-til-ingen reell kontroll.
Tar vi denne risikoen veloverveid, eller forhastet?
Pipelineproblematikk, ressurstilgang og rett verktøy til rett problem
Er vi klare for å la forståelse for førsteprinsippene vike? Eller skal vi forutsette en grunnleggende forståelse før bruk av akselererende hjelpemidler? Hvordan lar vi være å trekke opp stigen bak oss samt sikrer at vi har kunnskap på plass til å forvalte det vi legger igjen?
Hva hjelper det om hastigheten er høy hvis vi ikke vet om retningen er korrekt?
Noen kan mene at KI er så fundamentalt kritisk for oss at det ikke spiller noen roller hvilke ressurser vi legger beslag på i dens navn. Være seg maskinvare, landareal og energi.
Og starter vi i det hele tatt i riktig ende når vi sier at vi skal bruke mest mulig KI, før vi i det hele tatt har sett på rotårsakene for problemene vi har? Kanskje betyr ikke det at noe kan løses ved hjelp av KI at KI automatisk er den beste løsningen til problemet.
Avslutningsvis
Jeg tenker generelt som så at det er et stykke mellom å (hypotetisk) «one-shot-generere en sang basert på KI-tjenester trent på stjålet kildemateriale, kjørende på maskinvare hos menneskefiendtlige regimer og fóret på energi fra ufiltrerte kullkraftverk» og å «bruke en lokalt kjørende og selvtrent modell i eget solcelle-drevne hus til å postprosessere egenskrevet vokal til egenkomponert låt».
Videre er det også et stykke mellom å hate all innovasjon og det å være skeptisk til overdreven bruk av et gitt produkt med bakgrunn i forståelse rundt negative aspekter. Det må være lov å mislike noe, uten at det er en fornektelse for de positive aspektene.
Man kan anerkjenne at noe er teknisk imponerende samtidig som at en ikke ønsker at det skal styre verden.
Ingen stor skam å snu
Jeg kan også se at ekstreme følelser i positiv eller negativ retning på enkeltpunkter vil kunne rettferdiggjøre underkjennelse av de negative følelsene på de resterende.
Samtidig som det må være lov å være entusiastisk for teknologisk potensial uten at det betyr at en støtter alle de negative aspektene, så — når fordeler og ulemper kommer for dage — så er det et ypperlig tidspunkt å vurdere om tidligere holdning bør endres eller ei.
Det skal ikke være noen stor skam å snu.
Elsker eller hater du KI på bakgrunn av popkulturelle romantifiseringer eller dystopifiseringer så er det en ærlig sak, men vær isåfall klar over det.
Og vurder kanskje hvor mye du egentlig bør slenge rundt deg med absolutter. For min del bør du kanskje heller ikke inneha posisjoner der du tar beslutninger på vegne av enorme selskap, investeringsfond eller nasjoner.
Dette er som nevnt ikke å anse som en komplett liste over faktorer knyttet til dette feltet, og er mer en oppfordring til å forsøke bryte ned komplekse problemstillinger, sette ord på egne meninger og generelt gjøre seg selv bedre rustet til å diskutere, argumentere og ta avgjørelser.