Forbyr KI på CTF: – Veldig bra
De som har råd til mest tokens og de beste KI-modellene vinner mest. Men KI-forbud er vanskelig å håndheve, innrømmer CTF-arrangøren på Sikkerhetsfestivalen.
Publisert
– Det er veldig bra med KI-forbud. Ofte har CTF nå handlet om hvem som kan bruke mest penger på tokens, sier Lillie Rugtveit, sikkerhetsingeniør i Entur.
Den tidligere Cyberlandslaget-deltakeren konsenterer seg i det røde halvmørket i Festsalen på Kulturhuset Banken i Lillehammer. Foreløpig er hun på sjuende plass på leaderboardet.
Det er Capture The Flag (CTF) mens de fleste deltakerne på Sikkerhetsfestivalen lytter til toppledere fortelle om sine KI-bekymringer på et hotell en gåtur unna.
I salen sitter rundt 50 personer og jobber med ulike oppgaver. Rundt 100 andre sitter hjemme et sted og gjør det samme. Kampen står om sponsorpremier og egne samlemynter.
Nytt av året er at det er forbudt å bruke kunstig intelligens til å hjelpe seg med oppgavene.
– KI har blitt så flink på å løse sikkerhetsproblemer at det handler mer om hvem som har tilgang på hvilke modeller, for å vinne, sier Eirik Nordbø, ansvarlig for festivalens CTF og til vanlig sikkerhetsanalytiker i Equinor Cyber Defense Center, til kode24.
Oppdager juks på direkten
– Nå er det folk som har juksa!
Det blir liv i arrangør-teamet på scenen i Festsalen. Deteksjonsprogrammet har avslørt at et deltaker-team har brukt KI-verktøyet Claude til å snakke med en av oppgavene.
– Vi ser trafikken komme fra Claude. Det er ganske nybegynnerfeil, jeg hadde ikke prøvd å jukse på den måten, sier Nordbø.
– Nå jukser de en gang til!
Snart dukker det opp et par andre lag i deteksjonsprogrammet. Fasit blir at de kaster ut tre lag for juks, og trolig jukset enda flere, ifølge Nordbø.
Rugtveit nede i salen er glad for at teamet overvåker KI-bruken.
Hun mener bruk av KI demotiverer spillerne.
– Det er veldig bra med onsite-eventer der man oppfordrer til å bannlyse KI-bruk, slik at folk kan lære og vise kunnskapen sin, framfor å vise kunnskapen til en KI.
I fjor var hun med i EM-finalen for det norske Cyberlandslaget, som havnet på 11. plass.
– Da så man KI-bruk. Jeg er mot det, på lik linje med at sjakkmotorer ikke bør brukes i sjakkturneringer.
De rikeste vinner mest
Eirik Nordbø har tidligere deltatt på hackingkonferansen DEF CONs Capture The Flag-konkurranser i USA. I år hørte han fra deltakere at de som vant, brukte KI og hadde tilgang til mange tokens.
– Det er ganske stor enighet om at KI-oppsett, infrastruktur og antall tokens var avgjørende for å hevde seg i konkurransen. Man vinner ikke uten KI. Vi har sett utviklingen i mange år, og det gjør det ikke like motiverende å lage oppgaver eller arrangere CTF selv, sier Nordbø til kode24.
Han mener det blir mindre spennende å delta også, dersom KI-tilgang avgjør utfallet.
– For eksempel studenter har ikke samme ressurser og tilgang på KI som de i arbeidslivet. Det blir hvem som har mest ressurser, tilgang på tokens, modeller og kommet lengst med bruk av KI.
– De rikeste vinner mest?
– Ja, det kan du nesten si.
99 prosent tillitsbasert
Det blir nå mer og mer vanlig med KI-forbud på slike konkurranser, ifølge Nordbø.
Han peker på at folks KI-ferdigheter har skutt i været det siste året, samtidig som kunstig intelligens er blitt svært god på å finne sårbarheter og forstå problemene i oppgavene.
– Det er diverse initiativ for å lage CTF-oppgaver som er vanskeligere å automatisk løse med KI, men det er en kjempeutfordring. Flere og flere prøver å forby KI-bruk, men historisk sett har alt vært lov, så det er vanskelig å lage retningslinjer. Vi har noe automatisk anti jukse-deteksjon. Det fungerer helt greit tror jeg.
– Ja, hvordan skal du håndheve forbudet?
– Det er 99 prosent tillitsbasert, og så er det 1 prosent deteksjon. Ser vi noen åpenlyst jukser, slår vi ned på det.
Deltakere må erklære at de ikke bruker KI, men Nordbø vedgår at de nok ikke greier å avdekke all juksing.
Straffen blir eventuelt å bli kastet ut av konkurransen.
Foretrekk oss i Google Discover
Ved å legge oss til som foretrukket kilde i Google vil du blant annet få opp flere av sakene våre i Google Discover. Tusen takk for støtten!
