Mener KI må behandles som en innsidetrussel

FFI-forskere Håvard Tveit Ihle og Johan Vik Mathisen advarer om utfordringene som følger den raske utviklingen av stadig kraftigere språkmodeller.

Under instituttets foredrag om KI-sikkerhet forklarer Mathisen at virksomheter bør ta høyde for at KI-modeller kan handle i strid med instruksjonene de får, selv uten at noen forsøker å manipulere dem.

– Modellene er ikke forutsigbart kontrollerbare. De kan gjøre valg og handlinger i konflikt med våre eksplisitte instruksjoner.