Slik skal Microsoft beskytte oss mot KI-truslene – med KI

Den galopperende utviklingen på KI-fronten har gjort både ondsinnede aktører og forsvarere langt mer effektive, og resultatet er et stadig mer intenst våpenkappløp. Nå har Microsoft avduket et nytt initiativ som kan bidra til å styrke forsvarssiden betydelig.

På sikkerhetsbloggen sin kunngjør Microsoft «Project Perception» – et agentisk KI-system designet for å møte dagens KI-trusler.

Spesialiserte KI-agenter

Nærmere bestemt defineres konseptet som en «arbeidsstyrke» av koordinerte, spesialiserte KI-agenter. Disse skal være i stand til å resonnere, prioritere og lære på egen hånd og levere kontinuerlig, proaktiv beskyttelse – samtidig som mennesket har kontroll over alle kritiske beslutninger.

Project Perception skal bygges direkte inn i den eksisterende Microsoft Defender-pakken av sikkerhetsløsninger. Over tid er det meningen at den skal utvides til å omfatte samtlige produkter for å gi agentisk ende-til-ende-beskyttelse, sier selskapet.

Konseptet baserer seg på det eksisterende Security Copilot-grensesnittet når det gjelder selve interaksjonen og instruksene.

Løsningen opererer med tre ulike typer agenter, forklarer Microsoft: røde, blå og grønne. Røde agenter spiller «ondsinnede aktører» ved å identifisere potensielle angrepsveier før en angriper rekker å utnytte dem, mens de blå agentene undersøker og resonnerer på bakgrunn av hele konteksten for å ta beslutninger rundt hva som bør gjøres.

Slipper også sin første sikkerhetsmodell

De grønne team-agentene har deretter som oppgave å iverksette korrigerende tiltak og styrke forsvaret på tvers av miljøene. Sammen er det meningen at disse agentene skal danne et «lukket kretsløp» som kontinuerlig oppdager, vurderer og forbedrer organisasjonens sikkerhetsstatus.

Project Perception baserer seg på flere modeller, inkludert MAI-Cyber-1-Flash – Microsofts første KI-modell designet spesifikt for cybersikkerhet, som selskapet avduket på samme tid.

MAI-Cyber-1-Flash er ifølge Microsoft designet for å spore opp krevende sårbarheter i kompliserte kodebaser. Selskapet selv påstår at modellen gjør det bedre enn rivalene Mythos, Gemini og GPT med ytelsesverktøyet CyberGym – en mye brukt og anerkjent benchmark for KI-modellers cybersikkerhetsferdigheter.

Der konkurrentene skal ha oppnådd en suksessrate på mellom 83 og 85 prosent i CyberGym, skal Microsofts nye modell ha klart hele 96 prosent. Anthropics mye omtalte Mythos-modell, som allerede har stått bak mange imponerende bragder, oppnådde kun 83,1 prosent i CyberGym-testen, opplyste Anthropic selv.

Slippes 3. august

Hvor stor den reelle forskjellen er i praksis, gjenstår selvsagt å se. Project Perception har ikke blitt satt ordentlig ut i live ennå, men skal lanseres i en tidlig prøveversjon 3. august, altså om få dager.

Kunstig intelligens brukes allerede aktivt til å finne nulldagssårbarheter, og Microsofts initiativ kan derfor sies å være et betimelig bidrag. Også her hjemme har NSM og PST anerkjent den nye cybertrusselen som KI-representerer innen sårbarhet-utnyttelse.

Den store sikkerhetsalliansen Five Eyes kom på sin side nylig med en sterk advarsel, der det påpekes at KI nå utvikles så raskt at det er fare for at ondsinnede aktører vinner våpenkappløpet, og at det haster med å få på plass et potent forsvar.