Forsker: Ny KI-funksjon i Windows kan brukes av hackere til å stjele passordene dine

Microsoft har vært ivrige med å bygge KI-funksjonalitet inn i produktene sine siden partnerskapet med Open AI ble inngått, og kanskje har det i noen tilfeller gått litt vel fort i svingene.

En sikkerhetsforsker mener nå at en av de seneste KI-funksjonene i Windows 11, døpt «Recall», er en regelrett sikkerhetskatastrofe. Blant andre The Verge rapporterte om saken.

«Fotografisk hukommelse»

Recall er en Copilot-relatert funksjon som Microsoft introduserte på den nylig avholdte Build-konferansen. Den brukes til å finne frem til og organisere informasjon som brukeren har benyttet tidligere på en måte som ifølge Microsoft minner litt om menneskelig «fotografisk» hukommelse.

Tanken er å sette brukeren enkel og kjapp tilgang til mer eller mindre alt man har sett eller gjort på PC-en uten at man trenger å huske spesifikke detaljer som fillokasjoner, e-postemner eller tidspunkt.

På den tekniske siden fungerer Recall ved å ta periodiske skjermbilder av aktiviteten til brukeren, for så å analysere og organisere innholdet ved hjelp av KI-teknologien.

Microsoft forsikret at funksjonen er trygg å bruke fra et sikkerhets- og personvernperspektiv, blant annet ved at alle skjermbildene lagres lokalt på PC-en, og at bildene både kan slettes, justeres og settes på pause av brukeren når som helst.

Den kjente sikkerhetsforskeren Kevin Beaumont, som tidligere har vært ansatt hos Microsoft, har imidlertid et par høner å plukke med Recall-funksjonen.

Kan stjele «alt»

I et relativt detaljert blogginnlegg forklarer Beaumont hva som er problemet med funksjonen, og forskeren er ikke nådig i sin dom.

– Å stjele alt du noensinne har skrevet eller sett på din egen Windows-PC er nå mulig med to linjer med kode – med Copilot+ Recall-katastrofen, er Beaumonts talende tittel på blogginnlegget.

Beaumont peker på at Recall-funksjonen tar bilder av alle aktiviteter, inkludert utfylling av passord og andre svært sensitive aktiviteter. Microsoft har sagt at hackere ikke kan få fjerntilgang til disse dataene siden de lagres lokalt på PC-en og er kryptert.

Forskeren peker imidlertid på at denne krypteringen kun beskytter data «at rest», altså data som er lagret og inaktiv. Når brukeren er logget inn på PC-en og kjører programvare er alt dekryptert.

– Kryptering av lagrede data hjelper kun dersom noen kommer inn i huset ditt og fysisk stjeler laptopen din – det er ikke hva kriminelle hackere gjør, skriver Beaumont og fortsetter:

– For eksempel har Infostealer-trojanere (skadevare som stjeler sensitive data, journ.anm.), som automatisk stjeler brukernavn og passord, vært et stort problem i over et tiår – nå kan disse enkelt modifisert til å støtte Recall, skriver Beaumont.

– Bør tilbakekalles

Sikkerhetsforskeren peker videre på at skjermbildene som Recall-funksjonen tar med noen sekunders mellomrom bruker såkalt OCR-teknologi (Optical Character Recognition) til å gjenkjenne tekst fra bildene.

Disse dataene lagres så i en SQLite-databasefil som ifølge Beaumont inneholder alt du noen gang har sett på PC-en i ren tekst.

Andre brukere, og hackere, kan relativt enkelt få tilgang til disse dataene, og Beaumont selv demonstrerte i et innlegg på X hvordan prosessen med å hente ut dataene kan automatiseres med litt spesialisert kode.

Dette til tross for at Microsoft tidligere uttalte i media at en hacker ikke kan hente ut Recall-aktivitet fjernt.

Sikkerhetsforskeren sier Microsoft bør tilbakekalle Recall-funksjonen for å bearbeide den og publisere den på nytt senere. Han mener selskapet også bør gjennomgå beslutningsprosessene, siden lanseringen av denne funksjonen simpelthen ikke burde skjedd.

Microsoft selv har ikke offisielt kommentert saken i skrivende stund.

Flere detaljer om Beaumonts funn kan du finne i blogginnlegget.