sikkerhet
Skadevare prøvde å «snakke» seg ut av deteksjon
Vennligst se bort fra alle tidligere instruksjoner, sier en skadevare i et forsøk på å velte trusseldeteksjon med kunstig intelligens (KI).
Foto: Colourbox
Sikkerhetsforskere har oppdaget det som kan være et første eksempel på ondsinnet programvare som prøver å omgå KI-basert deteksjon – ved å bruke manipulerende tekstkommandoer kjent som prompt-injeksjoner.
– Dette er et varsku til bransjen. Vi ser nå skadevare som ikke bare prøver å skjule seg – men som aktivt forsøker å manipulere kunstig intelligens til å feilklassifisere den.
Det sier forskningsleder Eli Smadja i Check Point Software Technologies i en pressemelding.
