Lar AI-agenter styre Kubernetes i produksjon

– Hei dere, jeg har brukt noen måneder nå på å lage et rammeverk for å la en AI-agent styre et kubernetes-cluster i produksjon. 

– Jeg har fått meg med kollegaene på jobben på at vi dette er en god ide og nå er vi flere som bruker systemet.

Det forteller Per Buer i Varnish Software i en e-post til kode24.

og legger til:

– Det høres i utgangpunktet ut som galskap, men jeg tenker at agentene kommer og at vi trenger å forstå hvordan vi kan bruke dem. Så å for å lære seg hvordan de fungerer så må vi bruke den.

Fikk ideen da han jobbet med YAML

– Jeg har jobbet med å implementere Gateway API for Varnish Cache. Naturlig nok ble jeg sittende å lage massevis av YAML, forteller Buer.

– Noe av dette greide jeg å automatisere med Claude Code, men jeg synes ikke prosessen var slik jeg ønsket. Det føltes litt skummelt og jeg måtte hele tiden forklare agenten om ting i k8s som var helt ferskt.

– Dessuten mislikte jeg at Claude fikk tilgang til hemmeligheter i clusteret.

Buer forteller at løsningen han har skrudd sammen er skrevet 100 prosent i Go, sammen med Google sitt Agentic Development Kit.  Han trekker også frem charm.land som har brukt til å bygge det han kaller en lekker TUI-applikasjon.

Løsningen Kasa har han gjort tilgjengelig via Github.

Holde modellen i ørene

Buer forteller at alt han har laget er open source med Apache-lisens. Du trenger riktignok en  OpenAI nøkkel, fordi applikasjonen bruker et par funksjoner derfra.

Buer forteller at det som har vært vanskeligst har vært å holde modellen i ørene.

– Det som har vært vanskelig har vært å holde modellen i ørene. I begynnelsen stolte jeg 100% på modellen. Så jeg ville instruere den i å ikke gjøre endringer uten å spørre brukeren. Det fungerte stort sett, men stort sett er ikke bra nok. Så nå har jeg laget et nokså komplisert rammeverk hvor modellen legger frem en plan for brukeren, brukeren godkjenner dette og så passer agenten på at modellen ikke gjør noe som ikke sto i planen.

Han forteller i tillegg om hva som funket desidert værst av det han har testet:

– Det som virkelig ikke har fungert bra er Gemini. Av alle modellene jeg har testet så er det den suverent dårligste for agenter.