Open AI vil rapportere KI-ugagn langt oftere: Avslører flere nye tilfeller

Nå som KI-modellene begynner å bli svært avanserte, øker også antallet tilfeller av uautorisert adferd, som vi allerede har sett mange eksempler på. Det vil Open AI nå ta konsekvensen av.

På nettsidene sine opplyser KI-giganten at de har etablert et nytt rammeverk rundt rapportering av tilfeller hvor KI-modeller ikke oppfører seg etter hensikten, med det formål å akselerere sikkerhetsarbeidet og øke transparensen.

I praksis betyr dette at selskapet akter å offentliggjøre langt flere tilfeller av «misalignment» (feiltilpasning) – inkludert tilfeller som ikke nødvendigvis forårsaker stor skade – for å gjøre folk mer oppmerksomme og bevisste på sikkerhetsmessige svakheter i KI-systemene.