KI-forsker går av i protest – frykter at menneskeheten kan bli utslettet innen ti år
En forsker i KI-giganten Anthropic har forlatt jobben i protest mot det han frykter er en rask og ukontrollert utvikling der KI tar kontroll og kan utslette menneskeheten innen ti år.
Jacob Coxon har jobbet i tre år som forsker både i Anthropic og konkurrenten OpenAI.
Nå har han forlatt jobben i Anthropic. Tirsdag skrev han på X at de to selskapene fokuserer mer på å slå hverandre og andre globale konkurrenter i utviklingen av de mest avanserte modellene som er mulig, enn de er opptatt av sikkerhet.
I sommer skapte OpenAI og Anthropic mye oppstyr da de kunngjorde, med en ukes mellomrom, at modellene deres hadde brutt ut av det som skulle være sikre og lukkede testkamre og fikk uautorisert tilgang til datasystemer på nettet.
Coxon advarer om at noen i KI-bransjen mener menneskehetens eksistens kan bli truet innen utgangen av dette tiåret.
– Ikke undervurder denne teknologiens makt. Disse vil snart bli supermenneskelige systemer som kan hacke hva som helst, revolusjonere ethvert område over natten og tilegne seg ekte makt og ressurser. Vi har alle vært vitne til fremgangen innen alle disse områdene, og fremgangen setter ikke ned farten, skriver han.
Coxons innlegg har fått over 130 millioner lesere til nå.
Han er ikke den første i bransjen som offentlig har gått ut med slike bekymringer. Både Anthropic og OpenAI har tidligere mistet flere høyt profilerte ansatte som har vært bekymret for den samme utviklingen.
Verken Coxon, Anthropic eller OpenAI har svart på henvendelser fra nyhetsbyrået AP om å kommentere saken.
