Simula lanserer senter for KI-sikkerhet
Nytt forskningssenter skal sikre trygg bruk av kunstig intelligens i Norge.
Kunstig intelligens (KI) blir en stadig viktigere del av både offentlig og privat sektor. Samtidig øker risikoen for misbruk og uønskede konsekvenser. Nå etablerer Simula et uavhengig forskningssenter for å sikre trygg og sikker bruk av KI.
Senter for KI-sikkerhet (Centre for AI Security and Safety) etableres i februar 2026 og vil ha en offisiell åpning i april.
– Her skal vi utvikle kunnskap, kompetanse, metoder og verktøy som bidrar til sikker implementering og regulering av kunstig intelligens. Samtidig har vi en klar ambisjon om å være en uavhengig rådgiver for myndighetene i spørsmål vi mener er helt avgjørende for nasjonal sikkerhet, sier administrerende direktør ved Simula, Lillian Røstad.
– Ambisiøse mål for bruk av kunstig intelligens må balanseres med et kunnskapsbasert fokus på hva som kan gå galt. Sikkerhet er ikke en hindring. Det er det som gjør det mulig å trykke på gassen og samtidig ha full kontroll. Senteret er skapt for å forske på de mest kritiske risikoene som allerede eksisterer, og de som vokser fram med økt bruk, sier professor Michael Riegler.
Målet er å utvide kapasiteten til senteret over tid i samarbeid med aktører i offentlig og privat sektor.
Satsingen styrkes av at Simula i 2025 ble tildelt et nasjonalt KI-senter for bærekraftig, risiko-avers og etisk KI (sure-ai.no), fikk støtte til å bygge nettverk for forskning på tillitsvekkende KI og sikkerhet med partnere NTNU og OsloMet (simula.no), og ved lanseringen av et uavhengig åpent verktøy for trygghetsanalyse av KI-systemer (ntb.no).
– Dette verktøyet, Simpleaudit, er et godt eksempel på resultater som inngår i, og vil komme ut fra, det nye senteret, sier Røstad.
Simpleaudit er utviklet av Michael Riegler og Sushant Gautam, og fikk 10. februar status som et digitalt fellesgode.