Vil ha slutt på «woke AI»

USAs president Donald Trump vil forhindre «woke marxistisk galskap» i KI-modeller. I juli signerte han tre presidentordre om kunstig intelligens (KI). Ordrene er en del av Trumps satsing på å «vinne KI-kappløpet», og målet er raskere utvikling, økt eksport, og «riktig» ideologi i amerikanske KI-modeller.

Offentlig sektor i USA får ikke lenger anskaffe store språkmodeller som «manipulerer svarene til fordel for ideologiske dogmer, slik som mangfold, likestilling og inkludering», heter det i presidentordren.

− At fokus på mangfold, likestilling og inkludering har skylden for at KI og generativ KI blir upresis og upålitelig er helt absurd, sier Kathinka Theodore Aakenes Vik, seniorrådgiver og fagansvarlig for KI hos Likestillings- og diskrimineringsombudet.

Også Capgeminis KI-ekspert mener vi må gi opp troen på at generative KI-modeller kan være nøytrale.

Trumps månelanding

De tre ordrene er en del av Trumps «AI action plan». Trump vil styrke amerikansk utbygging av datasentre, blant annet gjennom raskere saksbehandling og enkelte unntak fra miljøkrav, og hjelpe selskapene med eksport av programvaren. Generativ KI er nemlig et internasjonalt kappløp USA må vinne.

Begrepsbruken tyder på at generativ KI er denne administrasjonens månelanding. Heller ikke dette kappløpet er uten kulturimperialisme.

− En gang for alle, så kvitter vi oss med woke, sa presidenten da han signerte ordren.

Han vil ha generativ KI som er «sannhetssøkende og nøyaktig» fremfor ideologisk.

I presidentordren peker Trump på Googles Gemini-modell, som i et forsøk på å få etnisk mangfold inn i bildegeneratoren, produserte bilder av SS-soldater med afrikansk utseende, som bakgrunn for ordren.

Trump-venn Elon Musk, har flere ganger kritisert AI-modeller for å ikke generere holdninger som er konservative nok. Hans egen KI-chatbot, Grok, har hyllet Adolf Hitler og kommet med antisemittiske uttalelser.

− Litt tullete

− Diskusjonen om skjevhet, eller bias, i modeller har pågått lenge, men fra mitt perspektiv er det en litt tullete diskusjon. Det er jo umulig å ikke ha skjevhet i modellene, sier Thordur Arnason, ekspert på generativ KI i Capgemini Invent.

− Hvorfor sier du det?

− Mine verdier er din skjevhet og omvendt. Om jeg definerer et verdisett jeg opplever som nøytralt, vil andre kulturer oppleve det som skjevhet, svarer Arnason.

Derfor kan ikke målet være å bygge modeller som ikke har skjevhet i seg, mener han. Målet må være å bygge modeller som er transparente og som gjør det mulig å gå valgene modellen tar etter i sømmene.

− Derfor mener jeg at KI-forordningen er på riktig spor, den legger vekt på å beskytte oss mot skadelige effekter av KI-modeller og på transparens og sporbarhet. Om vi ser noe vi opplever som skjevhet i modeller så kan vi i hvert fall ettergå det, sier Arnason.

Han setter pris på reguleringen vi legger opp til i Norge, med uavhengige tilsyn som ikke styres av sittende regjeringsideologi.

Lettere å styre KI enn folk

For de fleste som jobber med bruk av generativ KI, vil en slik ordre ha lite å si, nettopp fordi man er så klare over problemet med skjevhet.

− Når vi implementerer systemer og finjusterer, kan vi langt på vei veie opp for det vi opplever som skjevhet med prompting, sier Arnason og fortsetter:

− Det er mye lettere å styre holdningene til en KI-modell enn å få min rasistiske onkel til å endre synspunkt. Når det gjelder skjevhet, er jeg mer redd for mennesker enn modeller.

At Trump er villig til å bruke den tunge innkjøpsmakten amerikanske myndigheter har til å påvirke leverandørene, er likevel ikke uten betydning. De store selskapene kan neppe ignorere føringen.

− Men jeg tror teknologileverandørene kommer til å være ganske halvhjertet i å fylle kravene i denne presidentordren, sier Arnason, og minner om at Trump har varslet nærmere beskrivelse av begrensningen.

Det er altså fortsatt uklart hvordan føringen vil slå ut i praksis. Et vel så viktig poeng er at Trumps presidentordre tar bort bremsene for KI-utvikling i USA, mener Arnason.

− Det gjør det mulig for amerikanske tek-kjemper å akselerere utviklingen enda mer og styrke USAs dominans på feltet, sier Arnason.

− Kan få uheldige utslag

Når norske bedrifter og offentlige etater tar i bruk generativ KI, har de amerikanske tjenestene mer eller mindre monopol.

Digitaliseringsminister Karianne Tung har satt et mål om at åtti prosent av staten skal bruke KI innen 2025 og hundre prosent innen 2030.

− Målet kan få uheldige utslag om det ikke kommer tydeligere føringer for hvordan dette målet skal oppnås, og arbeidsgivere ikke har oversikt over hvordan ansatte benytter generativ KI, sier Aakenes Vik.

Store språkmodeller er utviklet på enorme datasett som inneholder historiske skjevheter og som vil gjenspeile diskriminerende mønstre. Datasettene er et utvalg av en større virkelighet. Dermed er nøytralitet i slike modeller en illusjon, mener hun.

− Dersom dette ikke anerkjennes og tas hensyn til ved utviklingen, vil KI ofte reprodusere og forsterke fordommer og stereotypier, ofte på bekostning av marginaliserte grupper, sier Aakenes Vik.

Derfor krever også KI-forordningens artikkel 53 som at leverandører av KI-modeller sørger for oppdatert dokumentasjon av modellen, inkludert treningsprosessen, påpeker hun. Det betyr at leverandørene må være åpne hvilke data modellene er trent på.

− Det er stor forskjell på om teknologien har blitt trent på tiktoks kommentarfelt eller vitenskapelige artikler, sier Aakenes Vik.

Bør gjøre mer enn minstekravet

Likestillings- og diskrimineringsombudet mener myndighetene bør oppmuntre til at de KI-løsningene vi bruker i Norge, ikke bare følger minstekravene i KI-forordningen, men bidrar aktivt til å fremme rettferdighet, likestilling og inkludering.

− Dette kan gjøres gjennom en tilnærming om innebygget diskrimineringsvern, som handler om å systematisk integrere prinsippene over i hele livssyklusen til et KI-system, både teknisk og regulatorisk, sier Aakenes Vik og fortsetter:

− Likestillingsarbeid og det å forebygge diskriminering ikke bare er pynt og staffasje, men en juridisk forpliktelse for offentlig sektor og for alle arbeidsgivere.