Eksperter: Anthropics nye KI-modell kan bli et digitalt maktmiddel for USA

Men mange spørsmål er fortsatt ubesvart om hvor kraftig Mythos egentlig er – og om teknologien kan bli et geopolitisk våpen.

Denne uken har USAs finansminister Scott Bessent og sentralbanksjef Jerome Powell kalt inn til et hastemøte for å håndtere et nytt trusselbilde.

Det skjedde bare dager etter at KI-selskapet Anthropic presenterte en forhåndsversjon av en ny språkmodell med prosjektnavnet «Mythos».

Funnet sårbarheter – i alle operativsystemer

Den nye KI-modellen har cybersikkerhet som hovedfokus, og skal ifølge Anthropic kunne finne og utnytte sikkerhetshull i alle store operativsystemer og nettlesere. Særlig alvorlig er det at det dreier seg om sårbarheter som kan utnyttes i såkalte dagnollangrep (day zero attacks på engelsk).

Dette er en type innbrudd som kan få svært alvorlige konsekvenser, fordi de bygger på svakheter som tidligere ikke har vært kjent. Det betyr at IT-leverandørene ennå ikke har hatt mulighet til å rette feilen med en programvareoppdatering.

Anthropic mener selv at modellen er for kraftig til å kunne slippes til allmennheten nå. I stedet skal den først testes av et konsortium av store teknologiselskaper i USA, blant annet Apple, Google og Microsoft – trolig for at selskapene skal rekke å utbedre eventuelle sikkerhetsbrister som blir funnet.

Eksperten: Våpenkappløp i bransjen

De svenske IT-sikkerhetsekspertene Åsa Schwarz og Robert Malmgren har fulgt KI-utviklingen tett de siste årene. Hvis Mythos lever opp til Anthropics løfter, vil den globale cybersikkerhetsbransjen trolig måtte endre seg raskt.

– Det pågår en kapprustning i bransjen nå. Vi må bli ekstremt raske og jobbe mer datadrevet for å kunne holde oversikt over alle nye sårbarheter som nye KI-systemer kan oppdage i en hastighet vi aldri har sett før, sier Schwarz, strategiansvarlig i konsulentselskapet Knowit Cybersecurity & Law.

Kan ramme internettets ryggrad

Malmgren, som driver konsulentselskapet Romab, bruker ordet «kvantesprang» for å beskrive det store spranget Anthropics nye modell kan representere. Han har selv brukt maskinlæring og KI-modeller i deler av arbeidet sitt i flere år, men sier at det finnes tegn på at Mythos har tatt teknologien til et nytt nivå. Og det kan få store konsekvenser.

– Helt siden 2010 og «Stuxnet» har IT blitt brukt som et kraftig våpen i konflikter. Se bare på Iran, der angripere har kunnet ta over trafikkameraer for å følge landets ledere i sanntid. Utviklingen av denne teknologien kommer ikke til å stoppe opp.

– Denne teknologien kan ikke bare brukes til å finne sårbarheter i operativsystemer – oppdages lignende hull i programmer eller verktøy med åpen kildekode, kan det slå hardt mot deler av hele internettets ryggrad. Det gjør at bedriftsledere og andre makthavere må tenke gjennom hele sin nåværende IT-sikkerhetsstrategi, fortsetter han.

Detaljen som overrasket sikkerhetsspesialisten

Anthropic har for vane å publisere «security cards», som gir en oversikt over hvordan en ny KI-modell håndterer sikkerhetsspørsmål – og hvilke potensielle risikoer som finnes. Schwarz har sett nærmere på rapporten om Mythos – og en detalj hun merket seg, er hvor godt modellen klarer ulike tester som skal prøve robustheten i sikkerhetsløsninger.

Capture the flag-konkurranser (CTF) er en velprøvd metode for dette, og går ut på at deltakerne skal bruke ferdighetene sine, blant annet innen knekking av passord og kryptering, til å finne noe – for eksempel en tekstfil – som er gjemt i et IT-system.

– Modellen er testet i 35 CTF-konkurranser som er godt kjent i cybersikkerhetsbransjen. Og den klarte alle. Det gir et tydelig bilde av hva teknologien ser ut til å være i stand til.

– Hva betyr det for cybersikkerhetsbransjen?

– Ansvarlig rapportering har vært praksis i bransjen lenge. Det innebærer at IT-sikkerhetsforskere varsler selskaper og gir dem kanskje 30 dager til å utbedre en ny sikkerhetsbrist før den blir offentlig. Jeg vet ikke helt hvordan det skal være mulig å bruke den prosessen framover.

– Ifølge en rapport er over 99 prosent av alle IT-sårbarheter som Mythos har identifisert, fortsatt ukjente. Kan det virkelig stemme?

– Det har alltid vært sikkerhetshull i alle operativsystemer og nettlesere. Tidligere har disse måttet oppdages av et menneske for å kunne utbedres. Det som skjer nå, er at KI-systemer vil kunne finne svake punkter i et tempo vi ikke lenger kan matche, sier Schwarz.

Stor hype akkurat nå

Det finnes likevel fortsatt ubesvarte spørsmål om hvor kraftig Mythos egentlig er. KI-selskaper som Anthropic har en historikk med å overdrive betydningen nye modeller kan få.

Det er åpenbart at det er et visst mål av «hype» rundt Anthropics nyeste produkt, sier Malmgren. Men én ting som skiller seg ut nå, er at teknologien deles med en gruppe andre selskaper i Silicon Valley på et så tidlig stadium, påpeker han.

– Det er bemerkelsesverdig at Anthropic har fått med seg konkurrentene. På et vis er det som om disse selskapene gir sine egne modeller stryk.

Både Malmgren og Schwarz Ahlin reagerer likevel på at den nevnte gruppen bare består av teknologiselskaper fra USA. Ingen selskaper fra for eksempel Europa eller Asia er inkludert.

Risikoen: Geopolitisk brekkstang

Dette kan skape en ubalanse som kan føre til at en stadig større del av makten over internett og digitale systemer flyttes til et lite antall teknologiselskaper, ifølge Schwarz. Og det er noe som kan utnyttes som en brekkstang dersom de geopolitiske spenningene mellom for eksempel USA og Europa øker, frykter hun.

– Diskusjonene om KI-risiko handler ofte om framtidige drapsroboter. Jeg tror vi også må begynne å se på spørsmålet fra et IT-sikkerhetsperspektiv. Allerede i dag skjer det cyberangrep som i stor grad er automatisert med KI. Det peker på hvor viktig det er at vi i Europa faktisk må bygge opp egne evner og mottiltak innen KI, sier hun.

«Kan skape en multipolar verden»

I tillegg er USA og landets KI-selskaper neppe de eneste som jobber med denne typen teknologi, påpeker Robert Malmgren. Man kan derfor gå ut fra at ondsinnede aktører, enten det er stater, statsstøttede aktører eller hackergrupper, ligger hakk i hæl – eller allerede har teknologi med tilsvarende evner.

– Jeg er mer bekymret for hva som skjer i land eller grupper som ikke er åpne slik Anthropic er. Ta Kina som eksempel – spørsmålet er om de har tatt igjen Vesten når det gjelder GPU- og programvareutvikling, eller om landet allerede har gått forbi oss. Jeg tror denne utviklingen vil skape en ny multipolar verden der det blir tydelig at enkelte land har en langt mer avansert og kraftfull kapasitet enn andre.

Ny type beredskap kreves

For å være klare for den typen utfordringer som venter, kreves det hurtighet og vilje til å bryte innarbeidede tankemønstre om IT-sikkerhet.

– Selskaper, organisasjoner og myndigheter må være på tå hev framover for å beskytte systemene sine. Det går ikke alltid lenger å bare være reaktiv og vente på at en systemleverandør skal rekke å sende ut en oppdatering. Man må ha bedre proaktivt arbeid og flere beskyttelseslag. Det må ikke få katastrofale følger at en feil finnes, eller at en sikkerhetsoppdatering blir lagt inn for sent.

Mythos er ennå ikke sluppet til allmennheten, og Anthropic har ikke opplyst under hvilke former, prismodeller eller lisenser det vil skje framover. Uansett hvordan det blir: Rundt hjørnet venter en rekke andre nye KI-modeller. Modeller som er «hardtrent» til å kunne generere alt fra exploits til kodeanalyser og finne kritiske sårbarhetsmønstre, ifølge Malmgren.

– Teknologien vil bli tilgjengelig, trolig som allemannseie. Det skaper ekstreme utfordringer i tungindustrien og OT-løsninger for automasjon og i telekom – som har oppdaterings- og patchsykluser som kan være årelange, sier han.

Artikkelen ble først publisert på Ny Teknik for deres abonnenter. Den er tilgjengelig på norsk for Digis abonnenter gjennom vår samarbeidsavtale.