Mener Googles KI-svar er full av feil om norske nettbutikker

Den siste tiden har Google i stadig større grad utviklet søkemotoren til en KI-drevet handleassistent. I stedet for bare å vise en tradisjonell liste med søkeresultater, bruker Google nå KI til å gi direkte kjøpsråd, sammenligne alternativer og anbefale hvor brukeren kan handle.

For nettbutikker innebærer dette en ny virkelighet. De må ikke bare forholde seg til sin plassering i de tradisjonelle søkeresultatene, men også til konklusjonene Googles KI-svar trekker på vegne av kundene. Dersom en bedrift ikke blir synlig i disse kjøpsrådene, kan det få alvorlige konsekvenser for både trafikk og omsetning.

Manglende synlighet kan samtidig tvinge bedrifter til å øke kostnadene til betalt markedsføring for å kompensere for at de blir utelatt fra KI-genererte anbefalinger. Dermed kan Googles KI-svar få direkte betydning for konkurransen mellom nettbutikker.

Som nettbutikk undersøker vi derfor jevnlig vår egen synlighet og kvalitetskontrollerer Googles KI-genererte kjøpsråd innenfor produkter og markeder vi kjenner godt. 

Det vi fant, var en blanding av konkrete faktafeil, motstridende opplysninger og mangelfulle vurderinger. Funnene avdekker svakheter som angår langt mer enn vår egen butikk og produktkategori.

Bekymringsfull utvikling

Da vi kontrollerte nettsidene Google selv brukte som kilder, fant vi blant annet en butikk som var utsolgt, en lagertømming som ble fremstilt som et bredt og stabilt sortiment, en utenlandsk virksomhet som ble omtalt som norsk, og fraktopplysninger som motsa informasjonen på nettbutikkens egen nettside.

Informasjonen var tilgjengelig. Men den så ikke ut til å bli vurdert samlet.

Dette er en bekymringsfull utvikling. Når en dominerende aktør som Google går fra å vise søkeresultater til å gi konkrete kjøpsråd, kan feil og mangelfulle vurderinger påvirke hvilke virksomheter som får synlighet, og hvilke som blir oversett.

På overflaten fremstår svarene som ryddige, konkrete og undersøkte. Problemet oppstår når anbefalingene sammenlignes med den samlede informasjonen på nettsidene Google selv viser til.

Vår konklusjon er at KI-systemet ikke alltid ser ut til å forstå hva opplysningene samlet betyr. Det ser heller ikke ut til å kvalitetskontrollere kjøpsrådene godt nok mot tilgjengelige og motstridende fakta.

Informasjonen finnes - men blir ikke vurdert samlet

Da vi sammenlignet KI-svarene med kildene Google selv viste til, fant vi flere tydelige motsetninger.

• I ett tilfelle ble en norsk butikkjede presentert som et aktuelt kjøpssted, selv om den samme kilden opplyste at varen var utsolgt.
• I et annet tilfelle beskrev KI-svaret en butikk som en aktør med et bredt og aktuelt sortiment. På den samme nettsiden stod det samtidig at produktgruppen var under lagertømming, og at «alt skal ut».
• Vi fant også en utenlandsk virksomhet som ble plassert under en overskrift om norske nettbutikker med eget lager i Norge. Virksomhetens egne selskapsopplysninger viste at den var registrert i et annet land.
• I tillegg viste Google enkelte produkttilbud med «kostnadsfri levering», mens den aktuelle nettbutikkens egen nettside opplyste at frakt kostet fra 99 kroner.

Dette er ikke skjult informasjon. Opplysningene stod på nettsidene Google allerede hadde funnet og brukt. 

Problemet ser derfor ikke først og fremst ut til å være at Google mangler tilgang til informasjon. Problemet er at KI-svaret ikke alltid sammenligner opplysningene eller vurderer hva de samlet betyr.

Google med grove påstandar om tidlegare SV-topp: – Grovt og kjipt

Fire politikarar var involvert i rettssaker eller til og med dømte, hevda Google. Det stemte berre i eitt av tilfella. – Grovt og kjipt, seier tidlegare SV-statsråd Heikki Holmås.

Dette er mer enn en vanlig hallusinasjon

Når en språkmodell finner opp en person, dato eller hendelse, omtales det gjerne som en hallusinasjon. Eksemplene vi fant, er annerledes.

Google har i stor grad funnet de riktige nettsidene. Systemet har hentet relevant tekst og identifisert butikker som har, eller tidligere har hatt, de aktuelle produktene. Problemet oppstår i neste trinn.

• Opplysningene blir ikke kontrollert mot dagens tilgjengelighet.
• Motstridende informasjon på samme nettsted blir ikke vurdert samlet.
• Dato og aktualitet ser ikke alltid ut til å bli tillagt nok vekt.
• Virksomhetens faktiske geografiske tilhørighet blir ikke nødvendigvis kontrollert.
• Fraktpåstander blir ikke alltid avstemt mot nettbutikkens synlige vilkår.

Dette ligner mindre på manglende tilgang til informasjon og mer på manglende sammenstilling og vurdering. 

KI-svaret finner de relevante ordene, men ser ikke alltid ut til å forstå hva de samlet betyr.

– Er det «uunngåelig» å si at uskyldige har kjøpt sex fra barn?

– Problemet med hallusinerende KI er kanskje umulig å løse, skriver Ole Petter i ukas nyhetsbrev. – Men et skritt på veien er å legge ansvaret for løgn på de som produserer den.

Fra søkemotor til rådgiver

I et tradisjonelt søkeresultat får brukeren flere lenker. Det er tydelig at brukeren selv må åpne sidene, vurdere kildene og undersøke om varen fortsatt er tilgjengelig.

Et KI-generert svar endrer denne rollen. Google samler informasjonen, sorterer aktørene og formulerer en konklusjon om hvor kunden kan handle. Svaret får dermed preg av å være et råd fra Google, ikke bare en liste med mulige kilder.

Det skaper en høyere forventning til kvalitet. Når Google sier at en butikk er norsk, at den har varen tilgjengelig eller at leveringen er kostnadsfri, vil mange brukere oppfatte dette som kontrollert informasjon.

Det er naturlig å anta at et KI-generert svar har analysert og vurdert opplysningene før det presenterer en konklusjon. De færreste brukere kommer til å åpne alle kildene og gjennomføre den kontrollen som Googles KI-svar tilsynelatende allerede har gjort for dem.

Korrekt informasjon kan bli en konkurranseulempe

For en liten nettbutikk krever det betydelig arbeid å holde informasjonen oppdatert. Utsolgte produkter må merkes. Forhåndsbestillinger må skilles fra varer som faktisk finnes på lager. Leveringstider og fraktvilkår må justeres. Gamle produkter må fjernes, arkiveres eller forklares.

Samtidig kan Google fortsette å løfte frem en gammel overskrift eller salgstekst fra en aktør som ikke lenger tilbyr det kunden leter etter.

Dermed kan en virksomhet som publiserer presis og nøktern informasjon, bli forbigått av en side med sterkere formuleringer, eldre autoritet eller mer aggressiv søkemotoroptimalisering.

Det betyr ikke at Google bevisst favoriserer unøyaktige aktører. Men utfallet kan likevel bli konkurransevridende.

Google fordeler synlighet og potensielle kunder gjennom svar som fremstår undersøkte, selv når nærmere kontroll viser at sentrale opplysninger er gamle, misvisende eller mangler nødvendig kontekst.

Dette er ikke et argument mot KI

Vi er ikke motstandere av kunstig intelligens. KI kan gjøre søk raskere, mer tilgjengelig og langt mer nyttig. Teknologien kan være spesielt verdifull når brukeren skal forstå komplisert informasjon fra mange forskjellige kilder.

Men nettopp derfor bør vi stille høyere krav når systemet går fra å finne informasjon til å anbefale hvor mennesker skal bruke penger.

Et troverdig kjøpsråd bør som minimum kontrollere:

1. Er varen faktisk tilgjengelig nå?
2. Leverer butikken til brukerens land?
3. Samsvarer salgsteksten med resten av nettstedet?
4. Er virksomheten det den blir presentert som?
5. Stemmer pris- og fraktopplysningene med det kunden møter i nettbutikken?
6. Hvor gammel er informasjonen?

Dersom Google ikke kan bekrefte dette, bør svaret tydelig opplyse om usikkerheten.

«Disse butikkene har tidligere solgt produktet. Kontroller dagens lagerstatus og leveringsvilkår.»

En slik formulering ville vært mindre imponerende, men langt mer presis.

Googles nye protokoll lar AI shoppe for deg

Google har i samarbeid med mer enn 60 tech-selskaper lansert Agent Payments Protocol (AP2), et åpent rammeverk for hvordan AI-agenter kan betale for varer og tjenester på dine vegne.

Google trenger å gjøre mer med kildene det allerede har

Det mest bekymringsfulle ved eksemplene våre er at Google ikke manglet tilgang til fakta.

Den ene kilden opplyste at varen var utsolgt. Den andre fortalte at alt skulle ut. Selskapsopplysningene viste at virksomheten var registrert i et annet land. Nettbutikken oppga selv at frakt kostet fra 99 kroner.

Likevel ble svarene presentert uten at motsetningene ble løst eller forklart.

Googles KI-svar trenger derfor ikke nødvendigvis flere kilder. Det trenger å gjøre en bedre jobb med kildene det allerede har.

(kode24 har bedt Google svare på påstandene, og kommer tilbake med svarene om vi får dem)

Norsk KI-shopping kan være år unna: – Må bli mer treffsikre

Mange mener KI skal totalt forandre måten vi handler på. – Men det er fortsatt en vei å gå, advarer norske eksperter.