CNN: Uriktig KI-rapport hevdet kinesisk skip transporterte deler til atomvåpen
En etterretningsrapport fikk alarmen til å gå i det amerikanske forsvaret: Den hevdet at et kinesisk skip i Midtøsten fraktet komponenter til atomvåpen.
Rapporten skal ha dukket opp da USAs angrep mot Iran var i full gang i vår. Den førte til at det amerikanske militæret begynte å legge planer for å stanse fartøyet, opplyser fire kilder som er kjent med saken, til CNN.
To av kildene opplyser at bevæpnede amerikanske soldater forberedte seg på å borde skipet. Kampfly ble sendt på vingene, ifølge én av disse kildene og en annen kilde med kjennskap til hendelsen.
Like før den planlagte operasjonen ble gjennomført, dobbeltsjekket imidlertid tjenestemenn rapporten. Den var utarbeidet av en analytiker ved en spesialoperasjonskommando.
De oppdaget da at den var laget ved hjelp av KI, og at chatboten analytikeren hadde brukt, feilaktig hadde identifisert lasten skipet fraktet. CNN skriver at de ikke har fått klarlagt hva lasten faktisk besto av.
Ifølge en av kildene var rapporten «helt uriktig». CNN siterer kilden på at rapporten «nesten startet en krig», med henvisning til at en amerikansk operasjon mot et kinesisk skip kunne skapt risiko for en væpnet konflikt mellom landene.
Både i det amerikanske forsvaret og etterretningsvesenet jobbes det aktivt for å ta i bruk KI-verktøy i nesten alle deler av arbeidet. Hendelsen understreker de dype risikoene ved å bruke denne teknologien til målutvelgelse midt i en krig, skriver nyhetskanalen.
Chatboten kom fram til sin konklusjon om den kinesiske lasten da den kombinerte opplysninger fra åpne kilder med hemmelig signaletterretning fra statlige databaser. Analytikeren brukte deretter KI på nytt for å pakke funnene inn i en vanlig etterretningsrapport – den typen som militæret stoler på – og sendte den deretter ut, ifølge CNN.
Det amerikanske forsvaret har så langt ikke svart på kanalens forespørsel om kommentar til saken.
