Verdens største nettbutikk blokkerer Metas nye KI-agent – dette er grunnen

KI-agentene er tallrike, og shopping er blant oppgavene som nå er i ferd med å automatiseres i stor skala. Den pågående agentinvasjonen foregår imidlertid ikke helt knirkefritt.

Nettstedet Geekwire rapporterte nylig at verdens største nettbutikk, Amazon, nå har satt foten ned for Metas nye KI-agent «Muse», som ble kunngjort tidligere denne måneden.

Kunder som forsøkte å bruke Muse til å shoppe hos nettbutikkgiganten, ble møtt med en melding som sier at bruk av uautoriserte KI-agenter representerer et brudd på selskapets vilkår – vilkår som brukeren selv har samtykket til.

Sikkerhetsrisiko

Den bakenforliggende årsaken til utestengelsen skal være at Amazon har bedt Meta om å unntas fra KI-agenten, men uten å lykkes. Dermed har Amazon altså ikke gitt samtykke til at brukere kan benytte Muse til shopping, noe som innebærer at agenten anses som en uautorisert tredjepart.

Ifølge en uttalelse fra Amazon identifiserer ikke Muse seg før den starter surfingen, og selskapet hevder også at KI-agenten tilsynelatende samler inn og lagrer personlige data – som nettbutikken sier utgjør en personvern- og sikkerhetsrisiko.

– Vi mener det er ganske enkelt at tredjepartsapplikasjoner som tilbyr å foreta kjøp på vegne av kunder hos andre virksomheter, bør operere åpent og respektere tjenesteleverandørenes beslutninger om hvorvidt de ønsker å delta eller ikke, heter det i en kommentar fra Amazon som ble delt med flere medier.

Da Meta først kunngjorde Muse-agenten, bedyret selskapet at agenten ikke har tilgang til sensitive data mens den benyttes til shopping.

Nulldagssårbarhet

– Muse har ikke innsyn inn i folks passord eller betalingsmetoder. Alle legitimasjonsdata som en person deler, lagres sikkert, slik at Muse kan bruke dem uten å se dem, inkludert passord som en person selv skriver i nettleseren, skrev Meta.

Amazons utestengelse kommer kort tid etter at det ble oppdaget en alvorlig nulldagssårbarhet i Muse-agenten, slik Ars Technica rapporterte. Sårbarheten kan gi ondsinnede aktører mulighet til å manipulere agenten til å heve sin egne privilegier og potensielt gjøre stor skade. Meta hevder å allerede ha fikset sikkerhetshullet.

På grunn av risikoen har shopping ved hjelp av autonome KI-agenter allerede rukket å bli kontroversielt, også delvis blant forbrukere.

Nyhetsbyrået Reuters skrev på tirsdag at flere store banker nylig publiserte en rapport med tittelen «Building Trust in Agentic Commerce» hvor det advares mot KI-shoppingen, med den begrunnelse at det medfører betydelig fare for svindel og kompromittering av personvern.

Skeptiske forbrukere

Rapporten hevder også at forbrukere har sine tvil rundt fenomenet.

– Forbrukere er usikre på om KI-agenter vil ivareta interessene deres. De er bekymret for at KI-agentene vil kjøpe de gale tingene eller bruke for mye penger – eller enda verre, tape pengene til svindel. De er ikke sikre på om de vil være beskyttet, eller hvem de skal henvende seg til om ting går galt, heter det i rapporten.

Rapporten fremhever transparens, personvern og valgfrihet som noen av de viktige grunnpilarene når det gjelder agentisk shopping.

Metas Muse-agent har for øvrig blitt svært populær på kort tid, og den ble lastet ned hele 900.000 ganger bare i løpet av de første seks dagene etter lanseringen den 8. september, skrev blant andre Bloomberg.