Testet KI-agenters «samarbeidsevner» – førte til prissamarbeid og sabotasje

KI-agenter har allerede blitt svært sofistikerte og er nå i stand til å løse mange oppgaver helt på egen hånd, men det å få flere agenter til å jobbe sammen er ennå et område hvor mye arbeid gjenstår.

Anthropic publiserte nylig resultatene av et knippe nye eksperimenter som demonstrerer utfordringene knyttet til multiagent-løsninger. Det viser seg at det skorter stort på samarbeidsevnene.

Selskapet kjørte tre ulike eksperimenter, hvor det kanskje mest interessante innebar å sette tre agenter til å migrere en Python-backend til et annet programmeringsspråk. Hver modell ble gitt et forskjellig målspråk for migreringen, og hver agent var i utgangspunktet uvitende om at de andre eksisterte.