Når KI kan resonnere, bør vi juble?

Vi er ett skritt nærmere Generell Kunstig Intelligens (GKI). Ifølge Financial Times er OpenAI og Meta bare dager unna å slippe nye versjoner av sine store språkmodeller (LLM) som kan resonnere og planlegge. Bør vi juble?

Store nye språkmodeller (LLM) som for eksempel GPT-5 og Llama 3 får medieoppmerksomhet for deres annonseringer om gjennombrudd for resonerings- og planleggingsferdigheter. Dette er et vesentlig bidrag til utvikling av KI og LLM generelt, men betyr det at «gamle» bekymringer som for eksempel AI-skjevheter og etikk, tilhører fortiden? Nei.

Selv-resonerende LLM arver skjevhetene

OpenAI og Metas nylige gjennombrudd antyder at LLM nå kan håndtere «vanskelige problemer». Dette refererer til deres evne til å prosessere informasjon og komme til logiske konklusjoner, noe som etterligner menneskelig resonnement til en viss grad. Altså ett skritt nærmere GKI.

Dette er en stor sak fordi dagens LLM utmerker seg på spesifikke oppgaver som tekst, bilder, og video, men sliter med bredere forståelse og bruk av logikk.

Men det er en hake: selv-resonerende LLM arver de samme skjevhetene fra dataene som de er trent på. Hvis dataene inneholder samfunnsmessige fordommer, vil AI reflektere disse skjevhetene i sine resonnementer, slik Google sin Gemini gjorde. Forestill deg en LLM trent på hovedsakelig nyhetsartikler – den kan videreføre stereotypier hvis disse artiklene i seg selv er skjeve. Det blir ikke bedre med syntetiske treningsdata.

Evnen til å resonnere kan til og med forsterke skjevhet. En skjev LLM kan være bedre til å veve tilsynelatende logiske argumenter basert på feilaktige antakelser. For eksempel kan en LLM trent på skjevhetshistoriske tekster «resonnere» at en viss rase er underlegen, selv om dataene selv er feil.

Vi trenger etiske rammeverk

Så, resonerende LLM er ikke en universalløsning for skjevhet. Vi trenger kraftige etiske rammeverk for å sikre at disse potente verktøyene brukes ansvarlig.

Det inkluderer:

• Data-granskning: Nøye utvelgelse og vurdering av treningsdata for å minimere skjevhet. Tilgang på høykvalitesdata (noveller, romaner, etc) er svært begrenset og man står igjen med lavkvalitets data (blogginnlegg etc).
• Transparens: Forstå hvordan LLM kommer til sine konklusjoner og flagging av mulige skjevheter. Dersom dette er vanskelig med KI/ML i dag, blir dette ikke enklere med selv-ressonerende GKI.
• Menneskelig tilsyn: Å holde mennesker i «loopen» for å sikre at KI-utdata er etiske og i tråd med menneskelige verdier.

Resonnerende LLM er et betydelig teknologisk og anvendelsesmessig steg fremover, men problemer knyttet til skjevheter eller etiske bekymringer forblir uløst.

Derfor må vi være forsiktige optimister, og utnytte disse fremskrittene på en ansvarlig måte for å sikre at KI tjener menneskene på en menneskevennlig måte.