Anthropics nyeste og kraftigste KI-modell, Fable, ble lansert i starten av juni. På Linkedin var KI-tilhengerne i ekstase. Modellen var betydelig bedre enn selskapets tidligere Claude-modeller.
Ved hjelp av noen få instruksjoner var det mulig å få Fable til å lage enkle spill som viste seg å fungere. Det var tydelig at Anthropic hadde lyktes denne gangen. Gleden viste seg å være kortvarig.
Få dager etter lansering utstedte amerikanske myndigheter eksport-restriksjoner og beordret Anthropic til å fjerne tilgang til Fable for alle ikke-amerikanske borgere. Morgenen etter var modellene borte.
Alle mistet Fable-tilgang
Scenarioet som i lang tid har bekymret europeiske teknologer og hovedsteder, ble bekreftet. Amerikanske myndigheter kan stanse teknologitjenester til andre deler av verden.
Men historien stanset ikke der. For Anthropic, et KI-selskap som i lang tid har ropt etter regulering av de kraftigste KI-modellene, forklarte at det ikke var teknisk mulig å skille mellom amerikanske og ikke-amerikanske borgere. Resultatet? Anthropic stengte tilgangen til Fable for alle. Også for amerikanske KI-entusiaster og forbrukere.
Amerikanske myndigheters offentlige begrunnelse er at modellen kan «jailbreakes». Altså at sikkerhetsmekanismene kan omgås. Fable bygger på teknologien bak Anthropics andre myteomspunnende og kraftige modell, Mythos. Men til forskjell fra Mythos, som kun ble tilgjengeliggjort for et begrenset utvalg, for å forbedre cybersikkerheten i IT-produkter, ble Fable tilgjengeliggjort for alle. Dermed kunne den bli misbrukt av kriminelle og andre stater.
Anthropic har fått kritikk fra cybersikkerhetsmiljøer for å ha implementert altfor strenge begrensninger i Fable. Likevel ble modellen underlagt eksport-restriksjoner. Derfor kan man begynne å lure på om det også ligger andre hensyn bak beslutningen.
I konflikt med Pentagon
For det har i lengre tid pågått en konflikt mellom den amerikanske statsadministrasjonen og KI-selskapet. Det startet i vinter da Anthropic ville legge inn begrensninger på hvordan det amerikanske forsvaret kunne benytte deres KI-modeller. Selskapet ønsket ikke at modellene skulle benyttes i full-autonome våpensystemer. Altså våpensystemer som kan ta livet av mennesker uten å involvere mennesker i beslutningsprosessene.
Pentagon mente på sin side at det ikke var opp til et KI-selskap å begrense hvordan det amerikanske forsvaret kunne benytte seg av teknologien. Dermed ble Anthropic klassifisert som leverandørkjederisiko. En betegnelse som vanligvis forbeholdes russiske og kinesiske selskaper som faktisk representerer en risiko i leverandørkjeden. Anthropic mistet verdifulle kontrakter med det amerikanske forsvaret. Kontraktene gikk til Anthropics største konkurrent, Open AI.
Kan stenge ned tjenester
Som følge av dette mistet også amerikanernes avlyttingseksperter i National Security Agency (NSA) tilgang til både Mythos og Fable.
NSA skal for øvrig ha vært imponert av modellenes evner. I internasjonale medier har det blitt rapportert at Mythos skal ha klart å «hacke» seg inn i NSAs sikkerhetsgodkjente nettverk, men dette ble nylig tilbakevist. Påstanden stammet fra en senator som hadde misforstått de tekniske forklaringene.
Eksport-restriksjonene mot Anthropic kan både være en fortsettelse av konflikten mellom selskapet og det amerikanske forsvaret, og et ønske fra USA om å begrense ikke-amerikanske borgere tilgang til de mest avanserte KI-modellene, som Fabel.
De siste ukene har derfor illustrert to viktige momenter: At amerikanske myndigheter kan stenge ned utvalgte tjenester med umiddelbar virkning. Og at de mest avanserte KI-modellene ikke lenger er å anse som forbrukerteknologi, men er nå underlagt sikkerhetspolitikkens regler.
Pentagon har gått «all in» på KI: – Gir en enorm fordel
