Anthropic trues av Pentagon – har fått tidsfrist

Det pågår for tiden en alvorlig interessekonflikt mellom KI-giganten Anthropic og det amerikanske forsvarsdepartementet rundt bruken av selskapets KI-verktøy. Nå har det skjedd en ny utvikling i saken.

Blant andre BBC og CNN rapporterer at den amerikanske forsvarsministeren Pete Hegseth nå har gitt Anthropic beskjed om at selskapet vil bli straffet hardt dersom det ikke går med på departementets krav.

Opplysningene stammer fra anonyme kilder som skal ha kjennskap til samtalene mellom KI-selskapet og Hegseth.

Krever ubegrenset tilgang

Bakgrunnen for konflikten er at forsvarsdepartementet krever ubegrenset tilgang til Anthropics KI-teknologi til «alle lovlige formål», noe KI-selskapet hittil ikke har akseptert på bakgrunn av sine egne etiske retningslinjer.

Departementet står imidlertid på sitt, og en Pentagon-representant opplyste at Anthropic har fått frist på seg til fredag klokken 17:01 lokal tid – som altså betyr at myndighetene har jekket opp presset betydelig.

Ifølge en av Pentagon-kildene hadde Hegseth og Anthropic-sjefen Dario Amodei samtaler på tirsdag som var «høflige», men hvor Amodei likevel definerte selskapets «røde linjer» når det gjelder bruken av KI-teknologien deres.

En av de røde linjene er militære operasjoner hvor kunstig intelligens benyttes til å ta de endelige avgjørelsene knyttet til utvelgelse av fiendtlige mål uten menneskelig innblanding. Den andre røde linjen er bruk av KI-verktøy til masseovervåkning av landets egne innbyggere.

Truer med å avslutte kontrakt og svartelisting

– Vi fortsatte samtalene i god tro om våre retningslinjer for bruk, for å sikre at Anthropic kan fortsette å støtte regjeringens nasjonale sikkerhetsoppdrag i tråd med det modellene våre pålitelig og ansvarlig kan gjøre, sa Anthropic i en kommentar delt av flere medier.

Hegseth har truet med å både avslutte kontrakten som Anthropic har med forsvarsdepartmentet, og kategorisere selskapet som en «forsyningskjedetrussel» – som er en form for svartelisting av selskapet.

Dersom selskapet stemples som en forsyningskjedetrussel, vil dette blant annet innebære at det blir forbudt for alle selskaper med militære kontrakter å benytte Anthropics teknologi.

Som Anthropic selv opplyste på nettsidene sine, inngikk selskapet i fjor sommer en kontrakt med departementet verdt opptil 200 millioner dollar. Kontrakten innebærer at selskapet forplikter seg til å utvikle avanserte KI-teknologier som skal fremme USAs nasjonale sikkerhet.

I tillegg til Anthropic, sikret også Elon Musks xAI og Open AI seg tilsvarende kontrakter med det amerikanske forsvarsdepartementet.

Hevder Pentagon følger loven

Interessant nok hevdet en Pentagon-ansatt overfor både CNN og BBC at konflikten ikke dreier seg om de røde linjene knyttet til masseovevåkning og autonom militærteknologi – som i så fall kan indikere at det er aspekter ved uenighetene som ikke er offentlig kjent.

– Pentagon har alltid fulgt loven. Man kan ikke lede taktiske operasjoner ved unntak. Lovlighet er Pentagons ansvar som sluttbruker, sa talspersonen til CNN.

Bruk av KI til militære formål er en pågående debatt som reiser mange etiske dilemmaer, spesielt knyttet til autonomi, også her til lands.

– De enkle eksemplene kan gi ganske enkle svar, men så kommer du over i en angrepssituasjon, der du har identifisert et mål som du skal angripe. Hvor er mennesket i den loopen? I teorien kan du gjøre akkurat det samme i angrep som du gjør i forsvar, og da kommer du inn på dette dilemmaet, sa forsvarssjef Eirik Kristoffersen i et intervju med Forsvarets Forum i fjor sommer.