Washington frykter ny cybertrussel: KI bryter seg inn i toppsikrede IT-systemer

Det gjorde at den amerikanske regjeringen stengt modellene i en periode.

Det er få detaljer, men ifølge The Economist har general Joshua Rudd, som leder National Security Agency og Pentagons Cyber Command, uttalt at Mythos «hadde hacket seg inn i nesten alle våre graderte systemer – ikke på uker, men på timer».

Den opplysningen ble videreformidlet til Mark Warner, som er nestleder i Senatets etterretningskomité, av generalen 11. juni.

The Economists journalist Shashank Joshi har siden gitt til kjenne på X at en embetsperson senere har opplyst at det skjedde som ledd i et såkalt red-team-initiativ, som er testing av sikkerheten i interne nettverk.

Embetspersonen fortalte dessuten at de aktuelle red-teamene ikke lenger har tilgang til Anthropics modeller.

27. juni skriver NTB at Anthropic har fått tillatelse av den amerikanske regjeringen til å gi en begrenset gruppe cybersikkerhetsselskaper tilgang til sin KI-modell Mythos 5.

Journalisten fremhever også samme sted at Mythos-modellen er brukt sammen med andre verktøy under svært spesifikke forhold.

Fable-modellen er en utgave av Mythos med færre restriksjoner.

Fredag 21. juni opplyste Anthropic at selskapet hadde suspendert tilgangen til modellene sine Fable 5 og Mythos 5.

Årsaken er en kunngjøring fra Trump-administrasjonen, som forbyr tilgang til modellene for ikke-amerikanere både i og utenfor USA.

Språkmodeller er hackerverktøy

Anthropic skriver på nettsiden sin:

«Den amerikanske regjeringen har, med henvisning til nasjonale sikkerhetsmyndigheter, utstedt et eksportkontrolldirektiv som suspenderer all tilgang til Fable 5 og Mythos 5 for alle utenlandske statsborgere, uansett om de befinner seg i eller utenfor USA, inkludert utenlandske ansatte hos Anthropic. Den samlede virkningen av denne kunngjøringen er at vi brått må deaktivere Fable 5 og Mythos 5 for alle kundene våre for å sikre etterlevelse av reglene. Tilgangen til alle andre Anthropic-modeller vil ikke bli påvirket.»

Det har lenge vært kjent at språkmodeller (LLM) ikke bare er gode til å kode, men også kan brukes til feilsøking av programmer. Noen av disse feilene kan også være sikkerhetshull.

I februar i år kunne Google i en rapport fortelle at statsstøttede hackergrupper bruker selskapets modell Gemini i arbeidet. Gruppen APT31, som angivelig er knyttet til Kina, gir Gemini instruksjoner via en ekspertprofil-personlighet innen cybersikkerhet for å automatisere analyse av sårbarheter og utarbeide målrettede testplaner.

Modellen ble også instruert til å analysere fjernkjøring av kode, samt teknikker for å omgå brannmurer i nettapplikasjoner, og testresultater for SQL-injeksjon rettet mot spesifikke mål i USA. Den automatiserte innsamlingen av etterretning hadde som formål å identifisere sårbarheter og organisatoriske forsvarsmekanismer. Språkmodellene brukes også til sosialt målrettede angrep.

Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig for Digis abonnenter gjennom vår samarbeidsavtale.