- Handler om å få vite hvorfor algoritmen konkluderer som den gjør

Skvulp: Algoritmestyrte karakterer til besvær, alt om UX for søk, 7 tips for bedre mikro-tekster og bursdagsbarnet Nokia 3310. 🌊

De siste par månedene har et merkelig sakskompleks utfoldet seg:

Elever ved den internasjonale videregående-linjen IB, International Baccalaureate, har opplevd å få langt dårligere karakterer på vitnemålet sitt enn de lå an til.

Årsaken? COVID-19 og en algoritme.

Fordi elevene ikke fikk avlagt avgangseksamen valgte IB-organisasjonen å benytte en algoritme for å beregne “sannsynlig” karakter. Aurora Birkeland var av naturlige årsaker ikke begeistret for å få to karakterer lavere i matte enn hun lå an til.

Erik Solheim i NRK Beta reflekterer interessant rundt det faktum at algoritmer tar stadig flere valg på vegne av mennesker. Begrepet “retten til en forklaring” er sentralt — det handler om å få vite hvorfor en algoritme har konkludert som den gjør. I Aurora Birkelands tilfelle ville ikke IBO, organisasjonen bak IB, gå i detalj om hvordan algoritmen fungerer. Da står man på rimelig bar bakke.

«Men neste gang du søker om lån i banken kan det fort være en algoritme som konkluderer med “yay” or “nay”.»

Heldigvis har vi Datatilsynet, som har presset IBO til å omgjøre karaktersettingsprosessen sin, så det løste seg til slutt for Birkeland. Men neste gang du søker om lån i banken kan det fort være en algoritme som konkluderer med “yay” or “nay”. Svaret du får trenger ikke være det du håpet på, og det er garantert ikke transparent.

10 gode om design og teknologi

  1. “Absence in design is very important”: Karel Martens on paying attention to the things we don’t see
  2. The ultimate guide to search UX
  3. A tapestry of tools
  4. Curators are the new creators
  5. 7 practical tips for better microcopy
  6. COVID-19 har forandret brukerne dine, og her er designjusteringene du bør vurdere
  7. Riot Games’ Game Design Curriculum is an entry-level course that teaches high school students the fundamental elements of game design
  8. Google offers to help others with the tricky ethics of AI
  9. Most users find that virtual tours are high effort, slow, and of limited value
  10. Silicon Valley i Norge? Eller bare kaffeslabberas?

Buzzet rundt Norges-aktuelle Amazon har på ingen måte lagt seg siden sist uke.

Amazon satser stadig mer på fysiske lokasjoner, og ikke minst mellomtingene mellom digitale og tradisjonelle fysiske butikker: Amazon-eide Whole Foods tester nå ut “dark stores”, butikker som ikke er åpne for publikum, bare for hjemkjørings-personale.

Det er ikke mer mystisk enn at leveringsbud svinger innom og plukker med seg det du ønsker å få levert for deg.

Det som derimot er litt kuriøst, er at Amazons sjåfører henger mobiltelefoner i trærne utenfor Whole Foods-utsalg for å vinne konkurransen om å få kjøre ut neste bestilling.

Fint og morsomt