kunstig intelligens
Så enkelt ble alle KI-nettleserne lurt til å utlevere sensitive data
KI-nettlesere har flere farlige sårbarheter, har forskere nå på nytt demonstrert. Skjermbildet er hentet fra Chat GPT Atlas.
Foto: Open AI
En bieffekt av at KI-systemer blir stadig mer autonome og selvstyrte – ofte kalt «agentiske» – er at dette også gjør det enklere å utføre ondsinnede handlinger som tidligere ville vært mer kompliserte. Nå foreligger det ny forskning som på nytt bekrefter denne faren.
Sikkerhetsforskere har nå demonstrert hvor enkelt det er å narre de nye KI-nettleserne, som altså er designet rundt autonomi, til å ignorere egne sikkerhetsmekanismer for å utføre handlinger de ikke er ment å utføre.
Blant andre nettstedet Security Week rapporterte om saken.
