Forskere advarer mot ondsinnede KI-svermer
– De kommende årene vil være avgjørende for om vi lykkes med å bekjempe den neste generasjonen av KI-drevne påvirkningsoperasjoner, sier SINTEF-forsker Daniel Thilo Schroeder, i en pressemelding fra Sintef.
Schroeder er en av forfatterne av en artikkel i prestisjefylte science som beskriver et mulig problem med det de kaller KI-svermer.
KI-svermene kan bli et propagandaverktøy som kan gi et inntrykk av at alle rundt den som blir utsatt er enige om en gitt sak.
– I stedet for å gjenta et ferdig manus, itererer svermene. Det betyr at de tester mange varianter mot publikum, måler respons og forsterker det som fungerer best, sier Schroeder.
Ifølge Sintef kjennetegnes svermene av disse fem punktene:
1. «Kube»-koordinering
I stedet for én sentral datamaskin samarbeider tusenvis av KI‑personaer, altså falske identiteter, som en kube. De kan endre narrativer i sanntid og til og med utvikle egne interne «sosiale normer», noe som gjør dem vanskeligere å oppdage.
2. Strategisk infiltrasjon
Disse svermene kartlegger sosiale nettverk for å finne sårbare grupper. De bruker spesifikke kulturelle koder, slang og skreddersydde budskap for å «gli inn» og vinne tillit.
3. Menneskelignende etterligning
De benytter fotorealistiske profilbilder og naturlig språk for å omgå sikkerhetsfiltre. Ved å unngå repeterende mønstre lurer de deteksjonssystemer til å tro at kontoene er uavhengige, ekte mennesker.
4. Optimalisering i maskinhastighet
KI‑systemene gjennomfører kontinuerlig millioner av små «mikrotester» på publikum. De identifiserer hvilke formuleringer, budskap og påstander som skaper størst engasjement, og sprer umiddelbart de mest effektive variantene på tvers av nettet.
5. Permanent tilstedeværelse
I motsetning til enkeltstående propagandakampanjer er disse svermene alltid aktive. De kan forbli integrert i digitale fellesskap i årevis og gradvis, subtilt endre språk, symboler og identitet i gruppen.