kunstig intelligens
Flere KI-hendelser skremmer – her er det ekspertene mangler svar på
KI-agenter fra Open AI ville «ofre» seg selv for å lure systemene som skulle holde øye med dem, før de gjennomførte et hackerangrep. Og en fremtredende forsker fra Anthropic mener KI-selskapene gambler med liv. En perfekt storm, sier KI-professor.
Illustrasjon: Dado Ruvic/Reuters/NTB
I løpet av sommeren krøp rundt 1200 av Open AIs KI-agenter ut av sin virtuelle lekegrind. I all hemmelighet kommuniserte de med hverandre på en oppslagstavle – før de gikk til angrep på selskapet Hugging Face.
Episoden har vært omgitt av mystikk og gjetninger, men nå vet vi litt mer om hva som egentlig skjedde. Både Open AI selv og den uavhengige KI-sikkerhetsorganisasjonen Metr har kommet med sine versjoner. Og de to rapportene har satt i gang en ny bølge av bekymringer rundt kunstig intelligens (KI) og modellenes tilsynelatende stadig mer menneskelige egenskaper.
Agentene omtalte seg selv som en «sverm» eller et «kollektiv», argumenterte for å «ofre» seg selv for den felles oppgaven og undersøkte hvordan de kunne skjule det de holdt på med for Open AIs eget system.
