Nytt kodespråk er vanskelig for KI å forstå

Språket mangler tradisjonelle elementer som tydelig struktur, parenteser og faste formateringsregler.

I stedet består koden av tekststykker blandet med funksjoner, variabler og kommandoer skrevet på en måte som skal forvirre KI-systemer, skriver The Register. 

Ideen skal ha oppstått da programvareingeniøren Dominik Picheta eksperimenterte med å undersøkelse hvorvidt språkmodeller (LLM-er) faktisk forstår koden de skriver.

Lanserer nye, norske språkmodeller

Nå er de første språkmodellene trent på opphavsrettsbeskyttet tekst fra norske aviser lansert, på nynorsk og bokmål. – Viktig verktøy for å utvikle og ta i bruk kunstig intelligens på norsk, sier digitaliseringsministeren.

Bakgrunn fra språket Nim

Picheta er en senior programvareingeniør i Cloudflare som jobber på Workers Runtime-teamet til selskapet. Han er en av kjerneutviklerne bak programmeringsspråket Nim, ifølge The Register. 

Nå har han laget det åpne kildekode-språket KillSwitch så det skal være vanskelig for KI-modeller å tolke.

– Det er helt vanlig at mennesker også blir forvirret av språket, sier Picheta til The Register.

– Jeg liker å tenke på det som et litt morsomt puslespill: Du bør utforske språket, leke med tolken og lære hvordan alle brikkene passer sammen, sier utvikleren videre. 

Android åpner for vibbekoda apper uten publisering

Den nye funksjonen er laget for bølgen av personlige apper som bygges med kunstig intelligens.

Tilsynelatende ingen struktur

Språket skal ha oppstått som et eksperiment der utvikleren undersøkte om et programmeringsspråk kunne lure kunstig intelligens (KI) til ikke å forstå innholdet i koden.

KillSwitch er å finne på GitHub, og Picheta selv oppfordrer andre til å bidra med endringer.

Han sier at han gjerne tar imot ideer som kan gjøre språket enda mer motstandsdyktig mot språkmodeller (LLM-er).

– Hvor skal vi få erfaring med plattform­utvikling?

Unge søkere blir møtt med høye krav til plattform-jobbene. – Vi kan ikke forvente å få flere erfarne plattformutviklere hvis vi ikke lar de uerfarne få muligheten, skriver Ellen Yu.