Både Altman og Anthropic-sjef Dario Amodei var med på å orientere FNs mektigste organ om KI-utviklingen. Møtet ble ledet av Frankrikes utenriksminister Jean-Noël Barrot. Amodei kom med en spådom flere KI-topper har ytret de siste ukene.
– Om vi ikke forvalter det godt nok, tror jeg at KI kan utgjøre en trussel mot menneskeheten som helhet.
Krever samarbeid
Open AI varslet allerede før møtet at Altman ville oppfordre politiske ledere til å få på plass prosedyrer for å vurdere selskapenes egne sikkerhetstiltak.
– Om KI skal være demokratisk, kan ikke viktige avgjørelser tas på laboratorier i San Francisco. De må formes gjennom demokratiske prosesser og av regjeringer som kan holdes ansvarlige av folket de tjener. På det internasjonale nivået krever dette samarbeid, sa han.
Amodei hevdet på sin side at Anthropic vil skru ned tempoet hvis det er behov for det.
– Vi vil senke farten så mye som nødvendig for å sikre at hver påfølgende KI-teknologi som vi gir ut, faktisk er trygg, sa han i et videoinnlegg i Sikkerhetsrådets møte.
Krigsfare?
Nyhetsbyrået Reuters siterer en ikke navngitt europeisk diplomat som sier målet med møtet er å belyse risikoen for at KI kommer ut av kontroll på måter som påvirker internasjonal sikkerhet.
– Dette er saker som faller innenfor Sikkerhetsrådets ansvarsområde, sier kilden.
– Kjernespørsmålet er om vi en dag kan stå overfor en situasjon hvor algoritmer som interagerer med hverandre, starter en krig.
Både USA og Kina – landene som leder an i KI-utviklingen – holdt innlegg under møtet.
Trump avviser
Mulige farer ved KI-utviklingen har fått stor oppmerksomhet den siste tiden. Statsminister Jonas Gahr Støre (Ap) og Finlands president Alexander Stubb har frontet et internasjonalt opprop med krav om tiltak for å holde KI-utviklingen under kontroll.
Da FNs generalsekretær Antonio Guterres talte under åpningen av FNs generalforsamling tirsdag, tok han til orde for et internasjonalt rammeverk for å begrense KI-risiko.
USAs president Donald Trump har imidlertid gått sterkt imot internasjonale KI-reguleringer.
– Vi kommer til å oppmuntre den, ikke tøyle den, sa han om KI-utviklingen i sin tale til generalforsamlingen.
– Nær forestående
Han la til at amerikanske myndigheter skal følge nøye med på KI-utviklingen i USA.
Canadiske Yoshua Bengio, som regnes som en av «gudfarene bak KI», var imidlertid ikke enig med Trump.
– Farene er reelle og nær forestående. Rådet står foran en umiddelbar trussel, en som ingen medlemmer ønsker seg, som ingen kan demme opp for alene, og som ikke respekterer våre grenser.
Slik skal Microsoft beskytte oss mot KI-truslene – med KI
