kunstig intelligens
Forskning: Generativ KI tror alle ikke-binære er like
Dette bildet viser de mest representative bildene fra KI-modellen Dall-E 2 når man ber om bilder av ikke-binære personer Skjermbilde: Hugging Face KI-verktøy
Hvordan ser en ikke-binær person ut? Spør du en generativ KI, så ser alle like ut. Dette viser en forskningsrapport skrevet av forskere fra Leipzig Universitet. De har samarbeidet med forskere i KI-oppstarten Hugging Face.
I forskningsprosjektet, som også er omtalt i MIT Technology Review, har forskerne brukt tre ulike KI-modeller til å generere 96.000 bilder av personer med ulik etnisitet, kjønnsidentitet og yrker. Med hjelp av en cluster-maskinlæringsmodell har forskerne sett etter mønster i bildene, uten å angi kategorier.
Dette lar forskerne gruppere bildene og tydeliggjøre bias i de generative KI-modellene. Basert på disse funnene har forskerne bygget et verktøy som lar deg se KI-modellenes biaser. Dette verktøyet er tilgjengelig på Hugging Face sine nettsider.
