Anthropics KI har funnet tusenvis av nulldagssårbarheter i operativsystemer og nettlesere – slik tar de grep

Et av områdene hvor den moderne, generative KI-teknologien har avstedkommet noen av de største produktivitetsgevinstene, er innen koding – men det er på dette feltet at teknologien også representerer den største trusselen.

Med kodeferdigheter kommer nemlig også evnen til å identifisere sårbarheter og svakheter i eksisterende kode, noe som selvsagt er nyttig til godartet bruk, men potensielt ekstremt farlig i feil hender.

Mektige partnere

En av de ledende KI-aktørene, Anthropic, har nå kunngjort et massivt initiativ som ta sikte på å stagge trusselen som denne formen for ondsinnet KI-bruk kan utgjøre i den svært nære fremtiden. Initiativet heter «Project Glasswing».

Project Glasswing er i korte trekk et prosjekt som innebærer å utnytte de nå svært avanserte kodeferdighetene som Anthropic har oppnådd med sin KI-teknologi, til å demme opp for trusselen.

Blant prosjektets partnere finner vi andre giganter som Google, Microsoft, Amazon Web Services, Apple, Nvidia, Palo Alto Networks, Cisco, Crowdstrike og The Linux Foundation.

Project Glasswing bygger på ferdighetene til «Claude Mythos», en ny språkmodell fra Anthropic som skal gjøre det ekstra skarpt innen datasikkerhet og ikke minst deteksjon av koderelaterte sårbarheter.

Har identifisert tusenvis av nulldagssårbarheter

I tester som Anthropic har utført skal modellen ha vært i stand til å identifisere og utnytte et svært høyt antall såkalte nulldagssårbarheter – som altså betyr at de ikke er kjente for produsentene selv. Sårbarhetene har blitt funnet i samtlige av de store operativsystemene og nettleserne.

Sårbarhetene er ofte subtile og svært vanskelige å finne, ifølge Anthropic, og i mange tilfeller dreier det seg om sårbarheter som er hele 10 eller 20 år gamle.

Til sammen skal Claude Mythos ha oppdaget flere tusen slike sårbarheter, og skremmende nok er hele 99 prosent av disse ennå ikke fikset. Av den grunn sier Anthropic at de ikke kan avsløre for mange detaljer om sårbarhetene på nåværende tidspunkt, da dette ifølge selskapet ville være uansvarlig.

Den store faren er at ondsinnede aktører kan dra stor nytte av disse ferdighetene, med uante konsekvenser.

– Gitt den hurtige progresjonen innen kunstig intelligens, vil det ikke ta lang tid før slike egenskaper sprer seg, potensielt utover aktører som er dedikert til å bruke dem på en trygg måte. Konsekvensene – for økonomier, allmennhetens trygghet og nasjonal sikkerhet – kan bli svært alvorlige, skriver Anthropic.

Vil dele tilgangen med mange andre

Selskapet redegjør i detalj for akkurat hva Claude Mythos er i stand til i en egen, lengre gjennomgang.

Interessant nok ble modellen ikke spesifikt trent til å ha disse ekspertferdighetene innen deteksjon av sårbarheter. I stedet «vokste» egenskapene frem som en teknologisk konsekvens av generelle fremskritt innen både koding, resonnering og autonomi, forklarer Anthropic.

Project Glasswing-prosjektet innebærer at selskapets partnere vil få tilgang til å bruke Claude Mythos som en integrert del av sitt defensive sikkerhetsarbeid. I tillegg vil Anthropic selv dele egne erfaringer til fordel for hele bransjen

– Vi har også utvidet tilgangen til en gruppe på over 40 ytterligere organisasjoner som bygger eller vedlikeholder kritisk programvareinfrastruktur, slik at de kan bruke modellen til å skanne og sikre både førsteparts- og åpen kildekode-systemer, skriver selskapet.

Hva som blir konsekvensene av det nye initiativet gjenstår å se, men prosjektet har formodentlig potensiale til å utgjøre en betydelig forskjell. Mer informasjon finner man hos Anthropic.