Redd for KI? Nå vil en gruppe KI-veteraner sette mennesket i sentrum

Den raske utviklingen på KI-feltet har ikke bare fremtvunget til dels brutale omstillinger på arbeidsplassen og samfunnet for øvrig, men har også fått mange til å stille de store spørsmålene omkring teknologiens rolle.

Et nytt initiativ døpt «Humans&» tar nå til orde for nytenkning når det gjelder KI-teknologien, hvor mennesket i større grad settes i sentrum for utviklingen. Blant andre The New York Times har skrevet om saken.

Vil gjenoppfinne KI

Humans& beskrives som en «KI-lab» og er grunnlagt av en større gruppe veteraner fra KI-feltet, inkludert folk med erfaring fra selskaper som xAI, Anthropic, Open AI, Google Deepmind og Meta, i tillegg til utdanningsinstitusjoner som MIT og Stanford.

– Vi mener KI kan gjenoppfinnes, med fokus på mennesker og deres forhold til hverandre. På sitt beste bør KI tjene som et dypere bånd som styrker organisasjoner og samfunn. Dette krever nytenkning rundt hvordan vi trener modeller i stor skala og hvordan folk samhandler med KI, heter det på Human&s nettside, som for øvrig ennå er ganske mangelfull.

Disse formuleringene er kanskje noe vage, men i en serie innlegg på X utdypes det litt nærmere hva som er intensjonene – hvorav en del av planen er å utvikle KI-systemer med «sosial intelligens».

– Vi er virkelig opprømte over å bygge modeller med sosial intelligens og evnen til å legge til rette for samarbeid mellom mennesker – vi mener dette er en ny frontlinje, skriver Humans& i en melding.

Menneskelig samarbeid

I en annen melding opplyser teamet at de rent konkret jobber med å bygge KI og produkter som skal hjelpe mennesker med å utføre oppgaver sammen med andre mennesker. Dette kan med andre ord kalles et slags avvik fra den tradisjonelle tilnærmingen, som ofte handler om samarbeid mellom KI og mennesker.

Initiativet har som mål å stake ut en retning hvor intensjonen ikke er å erstatte mennesker eller menneskelig interaksjon – en frykt svært mange deler.

– Jeg ønsker å bygge en fremtid der KI brukes som et verktøy for å skape mening, i stedet for å erstatte den. Der teknologien kan dytte deg mot andre mennesker, i stedet for å fungere som en fattig erstatning. Der den driver deg mot dine langsiktige mål, i stedet for å tappe motivasjonen din for å sikre egen profitt, skriver et av teammedlemmene, Ani Nrusimha, i et blogginnlegg.

Flere andre aktører har også advart mot å miste mennesket av syne i det elleville KI-kappløpet. Britiske Geoffrey Hinton, som regnes som «gudfaren av KI», ønsker for eksempel at vi bygger et «morsinstinkt» inn i teknologien for å sikre av den bygges på et fundament av empati og ikke vender seg mot mennesker – noe han mener er en reell fare.

Global identitet

– Hvis vi ikke kan finne en løsning på hvordan vi kan fortsette å eksistere når KI-teknologien er blitt mye smartere enn oss, er vi ferdige, har Hinton sagt til CNN.

Det har også kommet noen fremstøt på den teknologiske siden for å ivareta menneskets egenart. Open AI-sjefen Sam Altman har et initiativ på gang som innebærer å gi mennesker en desentralisert, digital identitet som kan benyttes globalt – et slags digitalt pass.

Tanken bak konseptet er å gi mennesker en måte å verifisere sin menneskelige identitet på, og ivareta menneskers unikhet etter hvert som KI-teknologien kommer til å overta stadig flere oppgaver og roller i samfunnet.