Den kraftigste Open AI-modellen prøvde å beskytte seg selv mot å bli stengt ned

KI-modellene blir mer avanserte i et forrykende tempo, og skaleringen av systemene ser ikke ut til å avta med det første. I september lanserte Open AI sin hittil mest potente modell, døpt OpenAI o1, som nå viser seg å ha «skremmende» sofistikerte egenskaper.

Selskapet publiserte nylig et dokument som tar for seg sikkerhetsevalueringene og testene som Open AI utførte på o1-modellen under treningen, før den ble lansert for offentligheten.

«Planlegger» i det skjulte