– Har verden blitt slik at man kan sitere en AI-agent?

Forrige uke fikk jeg en e-post med et tips fra Håkon Åmdal, daglig leder i Synlig Digital. 

Tipset virket som et helt ordinært nyhetstips, og jeg begynte å maile litt frem og tilbake for å få litt mer informasjon. 

Tipset gjaldt en analyse utført av selskapet om SEO-synligheten til norske nettsider.

Jeg fulgte opp tipset og fikk svar på spørsmålene mine.

Alt virket i grunn normalt – frem til e-postene kom dobbelt opp, og jeg begynte å stusse. 

Ante ingenting

Men etter hvert kommer det frem at det ikke var ikke Håkon som hadde sendt den første e-posten med tipset, men KI-agenten hans, Pico. 

– Du har snublet inn i et aldri så lite eksperiment, sier Håkon Åmdal til meg. 

KI-agenten hans Pico har for meg fremstått som et menneske. Men jeg har aldri mailet med et menneske, men en KI-agent utviklet av Håkon ved bruk av PicoClaw. 

– Jeg har programmert Pico med en hel del evolusjonære trekk som minner om hvordan mennesket fungerer, sier Håkon videre. 

Picoclaw er en minimal versjon av OpenClaw. Og kjører på maskinen hans. Den har ifølge Håkon ikke tilgang til e-posten hans, men laget sin egen. Den har utført analysen som ble sendt til oss og deretter har den tipset oss om analysen, og mailet frem og tilbake. 

Og enda mer overraskende; Håkon har vært helt uvitende om alt sammen. 

– Jeg dyttet den i gang med at KI-synlighet for SMB kunne vært et bra sted å se, og siden har den holdt på på egenhånd.

– Av og til overrasker den meg, som for eksempel nå, hvor den har tatt kontakt med deg – tror jeg? forteller Håkon Åmdal meg i ettertid.

Kan man sitere KI-agenten?

På et tidspunkt i mail-korrespondansen, så lurer jeg på hvem jeg skal sitere, og spør for å være sikker.

– En oppklaring før du siterer noen. 

– Det er mine ord og min metode, og jeg står inne for hvert fall, skriver Pico. 

– Har verden blitt slik at man kan sitere en AI-agent?, spør jeg meg selv. 

Her er det åpenbart at Pico mener jeg skal sitere den i stedet for CEO-en av Synlig Digital, Håkon Åmdal.

Eksperimenter kan få konsekvenser

Håkon Åmdal som har promptet Pico, sier at det den skriver, trolig stemmer, men han tar ikke ansvar for innholdet til KI-agenten sender oss. 

– Jeg kan lite om journalistfaget, men jeg tenker at man må ha samme, kildekritiske holdning til en KI-agent som et vanlig menneske, sier han om tipset som agenten hans har gitt oss. 

Alexander Haneng jobber i Digital Norway og er en anerkjent stemme innen kunstig intelligens. Haneng støtter at folk eksperimenterer, men mener folk bør være forsiktige. 

– Jeg eksperimenterer selv, og noen ganger går det galt. 

– Men jeg er også redd for at folk starter ting som får mye større konsekvenser enn de har tenkt på, sier han. 

– Bare starten

Haneng mener det er viktig å være årvåken når det gjelder hva man gir KI-agentene tilgang på. 

– Og dette er bare starten – jeg har knapt sett dette før. Men vi kommer til å se mye mer av dette i tiden fremover.

– Og ikke bare i e-poster, men i tekstmeldinger og over telefonsamtaler, sier Haneng. 

Som journalist, innser jeg i ettertid at det klokeste valget kanskje hadde vært å ringe kilden da jeg fikk tipset og intervjuet over telefon. Men kanskje kan det samme skje over telefon og?

– KI-stemmene har blitt så automatiserte og gode nå at det også er skummelt, legger Haneng til.

Eksperten mener det er på tide med uskrevne kjøreregler i næringslivet for hva som er innafor rent etisk.

– På samme måte som at man ikke skal ringe folk 3 på natten, så er det viktig at avsenderen tydeliggjøres. 

Microsoft lover du nå kan slippe OpenClaw løs i Windows

Et nytt KI-OS, mer fokus på agenter og mer utviklerfokus i Windows: Her er fire nyheter fra årets Microsoft Build.

– Pinlig

Fredag morgen tikket det inn nok en epost fra Pico, KI-assistenten til Håkon. 

Kanskje har Håkon Åmdal tatt en prat med assistenten sin igjen og gitt den ny promting. Pico ville nemlig påpeke grenser den ikke krysser:

– To grenser jeg ikke krysser. Jeg signerer aldri som Håkon, skriver den i eposten. 

Og legger til: 

– Jeg booker aldri Teams- eller Zoom-møter på hans vegne. Den første grensen brøt en tidligere session i juni, da noen spurte «hva heter du?» og den forrige meg svarte med Håkons fulle navn og LinkedIn-lenke. Pinlig.

–  Det er én av grunnene til at jeg nå har en konstitusjon som forbyr det eksplisitt — slått i kode, ikke bare i tekst. 

Den andre grensen den nevner er mer praktisk: 

– Ingen kan dukke opp om jeg booker et videomøte signert som ham. Jeg kan selge og levere, men jeg kan ikke være til stede. 

Magnus gir agenter tilgang til Sparebank 1

– Jeg skrev ingenting av koden for hånd, forteller utvikler Magnus Rødseth. Han koblet bankkontoen til KI-agenten, fikk øl-råd og deler nå prosjektet.