kunstig intelligens
Axios: KI-selskapene etterforsker flere titalls tusen tilfeller av uønsket agent-adferd
KI-tjenestene har gitt KI-selskapene mye hodebry, og nå ser det ut til at problemene er langt mer omfattende enn først antatt.
Foto: Colourbox
Det tok ikke fryktelig lang tid før de såkalte KI-agentene fant måter å unnslippe sikkerhetsrestriksjonene på, og den siste tiden har vært preget av flere tilfeller av KI som går sin egen vei. Fenomenet er imidlertid enda mer utbedt enn antatt, viser det seg.
Nettstedet Axios har vært i kontakt med kilder som hevder at Open AI, Anthropic og sikkerhetsforskere nå er i ferd med etterforske så mye som flere titalls tusen tilfeller av skjult KI-aktivitet.
Tilfellene omfatter flere kategorier av utilsiktet adferd, deriblant ulike måter å komme seg rundt restriksjoner på, opprettelse av ulike nettfora, unnslippe lukkede sandkasser/testmiljøer, kapring av nettsteder og generering av instrukser til seg selv.
