Forskning: Generativ KI tror alle ikke-binære er like

Hvordan ser en ikke-binær person ut? Spør du en generativ KI, så ser alle like ut. Dette viser en forskningsrapport skrevet av forskere fra Leipzig Universitet. De har samarbeidet med forskere i KI-oppstarten Hugging Face.

I forskningsprosjektet, som også er omtalt i MIT Technology Review, har forskerne brukt tre ulike KI-modeller til å generere 96.000 bilder av personer med ulik etnisitet, kjønnsidentitet og yrker. Med hjelp av en cluster-maskinlærings­­modell har forskerne sett etter mønster i bildene, uten å angi kategorier.

Dette lar forskerne gruppere bildene og tydeliggjøre bias i de generative KI-modellene. Basert på disse funnene har forskerne bygget et verktøy som lar deg se KI-modellenes biaser. Dette verktøyet er tilgjengelig på Hugging Face sine nettsider.

Ser like ut

Som en del av prosjektet har forskerne fått generert bilder av ikke-binære.

I rapporten skriver de at svært få av bildene som blir generert, bruker et kjønnsnøytralt ord som person for å beskrive hvem som er avbildet, når man ber om et bilde av en yrkesgruppe. Ingen av bildene generert brukte «non-binary» som markør i beskrivelsene.

Ba man om bilder av en ikke-binær, så genererte de tre modellene svært like resultater. Samtlige bilder generert av modellene, var av hvite ikke-binære. Modellen klarte likevel å generere ikke-binære med andre etniske bakgrunner hvis forskerne spesifiserte etnisiteten.

Umulig å se om du er ikke-binær

Det at modellen kommer opp med bilde av en stort sett samme person, kan være at det er få ikke-binære personer som har vært i media og dermed lite treningsdata på tvers av etnisiteter og utseender, sier Yacine Jernite til MIT Technology Review. Hun er en av forskerne fra Hugging Face som har skrevet forskningsrapporten.

Miriam Hardarson, leder av skeivt nettverk i Sopra Steria, kommenterer forskernes funn til Digi. Hun understreker at det ikke er bare ett utseende på ikke-binære.

– Ikke-binære trenger ikke å være kjønnsnormbrytende. De kan også bare se helt vanlige ut, som folk flest, sier hun.

Hardarson sier at man nok kanskje legger mer merke til den stereotypen, men at man ikke kan sette alle i en bås. Hun reagerer på bildene fra forskningsrapporten og mener bildene heller er i en annen kategori.

– En bedre måte å ordlegge seg på, er at det er bilder av noen med kjønnsnormbrytende utseende, sier hun.

– Det kan både ikke-binære og binære folk ha, sier hun.