Nå får Chrome sin egen potente KI-agent – men med en hake

KI-agenter er blant det mest populære å bruke KI-teknologien til for tiden, og samtidig har mange begynt å rette fokuset mot nettleseren som en arena hvor agentene virkelig kan få boltre seg.

En av Open AIs hovedkonkurrenter, Anthropic, kan nå fortelle at de har integrert sin KI-modell Claude i Chrome som en egen nettleserutvidelse.

Dermed skal brukere kunne benytte Claude til å utføre mer eller mindre den samme typen oppgaver som de benytter nettleseren til, men altså la den gjøre det helt på egen hånd.

Rulles ut gradvis

Selskapet sier de allerede har testet funksjonaliteten internt, der Claude i Chrome har vist lovende fremgang innen oppgaver som å administrere kalendere og rapporter, planlegge møter, skrive utkast til e-poster og teste nye nettsidefunksjoner.

Ifølge en demonstrasjonsvideo Anthropic har publisert, er Claude tilgjengelig som et eget ikon til høyre for adresselinjen i Chrome, og ved å klikke på ikonet får man opp et chatvindu hvor man kan starte en dialog med Claude, gi instrukser etc.

Eksempelvis kan man be Claude søke gjennom nettsider for å finne frem til den informasjonen man trenger, basert på kriterier som brukeren oppgir i chatvinduet. I demonstrasjonvideoen brukes Claude for eksempel til å liste opp et knippe leiligheter som oppfyller bestemte preferanser.

Den store haken er at Anthropic ruller ut Chrome-versjonen av Claude svært forsiktig og gradvis. I første omgang er det kun 1000 betrodde brukere av Max-abonnementet som har tilgang til Claude i Chrome – som foreløpig kun er et pilotprosjekt.

I skrivende stund går det fremdeles an å skrive seg på en venteliste for testing av den nye nettleserutvidelsen.

Store sikkerhetsutfordringer

Anthropic sier de akter å utvide tilgangen etter hvert, basert på tilbakemeldinger fra den første testpuljen. Selskapet innrømmer imidlertid at mye arbeid gjenstår – først og fremst når det gjelder sikkerhet, hvor løsningen har betydelige utfordringer.

– På samme måte som at folk møter på phishing-angrep i innboksen sin, kan KI i nettleseren føre til injeksjonsangrep – hvor ondsinnede aktører gjemmer instruksjoner i nettsider, e-poster og dokumenter for å lure KI-en til å utføre skadelige handlinger uten brukerens viten, skriver Anthropic.

Injeksjonsangrep er en mye omtalt og utbredt angrepsteknikk som den nye KI-revolusjonen har åpnet for, og det kan blant annet brukes til å slette filer, stjele data og utføre transaksjoner.

Anthropic sier de har utført interne, realistiske tester med injeksjonsangrep som resulterte i en suksessrate på 24 prosent uten noen sikkerhetssystemer på plass.

Selskapet har allerede bygget inn et knippe sikkerhetsmekanismer som skal redusere faren for slike angrep. Blant annet er Claude blokkert fra å bruke nettsider i høyrisiko-kategorier som finanstjenester, pornografisk innhold og piratnettsider.

Det arbeides også med funksjoner som kan oppdage mistenkelige mønstre i instruksjonene og uvanlige tilgangsforespørsler, og mye skal i tillegg gjøre på tillatelsessiden.

Akkurat når Claude til Chrome får en bred lansering, er ennå uvisst. Flere detaljer finner man hos Anthropic.