Slik skal Chat GPT-brukerne beskyttes mot en stor sikkerhetstrussel

Etter hvert som KI-tjenestene utstyres med stadig flere funksjoner og egenskaper, øker også sikkerhetstruslene i omfang. Nå ønsker Open AI å komme ondsinnede aktører i forkjøpet på sin egen Chat GPT-plattform.

På de offisielle nettsidene sine avduket selskapet nylig en ny Chat GPT-funksjon døpt «Lockdown Mode», eller nedstengningsmodus, til KI-tjenesten sin. Modusen er ment å beskytte mot den svært alvorlige «prompt injection»-trusselen som de nye KI-tjenestene har åpnet for.

Dette er i korte trekk en angrepstype hvor ondsinnede aktører «hacker» et KI-system/agent til å ignorere regler og sikkerhetsmekanismer for å utføre oppgaver den ikke er ment å utføre.