Anthropics nye KI-modell truet med utpressing da den ble fortalt at den skulle stenges ned

Filmer og TV-serier presenterer ofte fremtidsscenarioer hvor kunstig intelligens er blitt så avansert at den er blitt «selvbevisst» og i stand til å forsvare seg mot trusler.

Interessant nok har dagens KI-teknologi allerede begynt å demonstrere adferd som kan minne om slike scenarioer. Senest ut er Anthropics nye KI-modellfamilie.

På torsdag dro selskapet sløret av Claude 4-familien, som består av de to modellene Claude Opus 4 og Claude Sonnet 4. Førstnevnte beskrives av Anthropic som «verdens beste» KI-modell til koding, mens sistnevnte skal være en betydelig oppgradering fra Claude Sonnet 3.7, som ble sluppet så sent som i februar i år.