– Brukerne dine stoler ikke på KI-en din. Det er ditt problem

Vi har bygget systemer som gir svar ingen forstår, tar avgjørelser ingen kan overprøve, og feiler på måter ingen forutså. 

Og så lurer vi på hvorfor folk ikke stoler på dem. 

Som produktdesigner ser jeg dette hver dag: teknologien funker, men tilliten uteblir. 

Hallusinasjoner, skjevheter i data og ugjennomsiktige avgjørelser har gjort brukerne mer skeptiske — og med rette. 

I dag er tillit den eneste valutaen som faktisk betyr noe. 

Fra svart boks til forklarbar KI 

Den største barrieren for tillit er mangel på innsyn. Hvis et system nekter deg et lån eller foreslår en medisinsk diagnose, holder det ikke å bare få svaret — du trenger å forstå hvorfor. 

Det er her Explainable AI (XAI) kommer inn. Ikke som et buzzword, men som et designkrav. 

Det handler om å oversette maskinlæring til menneskespråk: kontekstuelle hint som viser hvilke data som ligger til grunn, og sannsynlighetsvisning fremfor falsk sikkerhet. 

«Systemet er 85 % sikkert på dette» er mer ærlig — og mer nyttig — enn et kategorisk svar uten forbehold. 

Bygg inn menneskelig kontroll 

En bruker skal aldri føle seg fanget av en algoritme. Human-in-the-loop er ikke bare et prinsipp fra akademia — det er et designkrav. 

Det betyr enkle avkjøringsveier: brukeren må kunne si «dette stemmer ikke» med ett tastetrykk, og systemet må lære av det. 

Kontroll skal ligge hos mennesket, ikke algoritmen, slik at brukeren kan ta egne valg. 

Vant pris for brukeropplevelse – risikerer å bli lagt ned

Lille norske leksikon vant akkurat Brukeropplevelsesprisen på Yggdrasil-konferansen. Nå risikerer de å bli lagt ned på grunn av pengemangel.

Bias sitter i dataene - ikke i koden 

Bias er KI-ens største synd, og den oppstår lenge før noen skriver en linje kode. Hvis treningsdataene gjenspeiler historiske urettferdigheter, vil KI-en bare effektivisere dem. 

Derfor må vi stille de ubehagelige spørsmålene tidlig i produktutforskningen:

• Representerer dataene alle brukerne, eller bare et privilegert utvalg? 
• Hvem blir rammet hvis algoritmen tar feil? 
• Er løsningen tilgjengelig for alle, uavhengig av funksjonsevne? 

– KI gjør ikke designeren overflødig. Men til de viktigste strategene i teamet

– Det er en farlig fristelse i KI-tidsalderen: Å tro at en prompt kan erstatte et brukerintervju, skriver Anna Steinsund i konsulentselskapet Miles.

Åpenhet er et konkurransefortrinn 

Mange tror at åpenhet svekker produktet eller avslører forretningshemmeligheter. 

Erfaringen viser det motsatte. Merkevarer som er åpne om hvordan de bruker KI, hvordan data behandles og hvilke begrensninger teknologien har — de vinner lojalitet. 

En KI som sier «jeg er ikke helt sikker, men her er det jeg fant» er mer verdifull enn en som leverer selvsikre løgner. 

– Stor forskjell på å skrive med KI og å la KI skrive for deg

– Jeg møter mange som enten lar KI skrive alt for seg, eller som bruker det som en skrivevenn. Forskjellen på de to er ganske stor, sier tekstdoktor Christine Calvert.

Tre spørsmål du bør stille i dag 

1. Kan brukeren forklare hvorfor systemet ga det svaret det ga? 
2. Er det enkelt å si «dette stemmer ikke»? 
3. Og har dere vurdert hvem som faller utenfor hvis algoritmen får styre fritt? 

Hvis svaret på ett av disse er nei, har dere et tillitsproblem — ikke et teknologiproblem.