KI-kjempen Anthropic hevder Alibaba har gjennomført en koordinert kampanje for å få tak i uautorisert tilgang til deres flaggskipsmodell, Claude. Det skriver DN.
Dette er det største kjente forsøket fra et kinesisk selskap på å hente ut kunnskap fra en ledende amerikansk KI-modell, ifølge Anthropic.
– Ulovlig
Ifølge et brev sendt til Det hvite hus og amerikanske senatorer skal operatører knyttet til Alibabas KI-laboratorium Qwen ha tatt i bruk 25.000 falske kontoer til å hente ut 28,8 millioner utvekslinger med Anthropics Claude.
Kampanjen skal ha siktet seg mot noe av Claudes mest avanserte teknologi innenfor , komplekse langsiktige oppgaver og programutvikling.
Denne metoden kalles «adversarial distillation», eller fiendtlig destillasjon, og innebærer at en aktør bruker svarene fra en ledende KI-modell til lære opp en konkurrerende modell med tilnærmet like egenskaper.
Gjennom dette kan konkurrenter kopiere egenskaper til en langt lavere pris. På den måten slipper man de gigantiske kostnadene knyttet til datasentre og forskning.
– Disse angrepene skjer ulovlig, systematisk og i industriell skala for å hente ut amerikanske KI-kapasiteter og pakke dem om som egne produkter uten kostnadene ved forskning og modelltrening, skriver Anthropic i brevet som ble offentliggjort onsdag kveld.
Selskapet ber den amerikanske kongressen stramme inn eksportkontrollen av KI-brikker og innføre økonomiske sanksjoner mot kinesiske selskaper som bruker ulovlig destillasjon. I tillegg ber Anthropic kongressen åpne for tettere informasjonsdeling mellom amerikanske KI-selskaper.
Skal ha militær-kobling
Anthropic understreker at det er særlig alvorlig at kampanjen kom etter at Det hvite hus i april advarte om at slik kopiering av amerikanske KI-modeller var «uakseptabel».
Alibaba ble nylig oppført på det amerikanske forsvarsdepartementets 1260H-liste sammen med andre selskaper som ifølge myndighetene har tilknytning til Kinas militære styrker. Selskapet har avvist anklagene og saksøkt Pentagon for å blitt tatt av listen.
Anthropic mener den koordinerte kampanjen kan knyttes direkte til amerikansk nasjonal sikkerhet.
– Jo større gapet er mellom amerikanske og kinesiske KI-modeller, jo mer tid har den amerikanske regjeringen på å styrke cyberforsvaret og ta i bruk KI-systemer på tvers av nasjonale sikkerhetsdomener, skriver selskapet.
Anthropic ble nylig pålagt av det amerikanske handelsdepartementet å blokkere utenlandske brukere fra deres mest avanserte modeller, Claude Fable 5 og Mythos, grunnet bekymring for at en «jailbreak»-teknikk kunne omgå sikkerhetsmekanismene.
Anthropic avviser begrunnelsen, men har likevel deaktivert modellene midlertidig.
Ny KI-modell rystet IT-bransjen: Slik forbereder sikkerhetssjef seg
