Kritikk av Googles KI-svar: Flere er KI som siterer KI som siterer KI

De omdiskuterte «AI Overviews», eller KI-sammendragene, som har begynt å dukke opp øverst i Googles søkeresultater, er basert på kilder der 10 prosent er generert av kunstig intelligens (KI).

Det er i hvert fall konklusjonen til selskapet Originality.ai, som har analysert dette med sin egen programvare for å oppdage KI-generert innhold, skriver teknologinettstedet The Register.

I analysen kjørte Originality.ai resultatene fra 29.000 Google-søk gjennom modellen «AI Detection Lite 1.0.1», med særlig fokus på de KI-genererte sammendragene øverst i søkeresultatene. Ifølge selskapet er funnene bekymringsfulle:

– Selv en liten andel KI-genererte kilder på omstridte temaområder skaper bekymring for troverdighet og tillit, sier salgs- og markedsdirektør Madeleine Lambert i Originality.ai til The Register.

Innholdet fremfor produsenten

Selskapet bak KI-detektoren har tidligere fått anerkjennelse for nøyaktigheten i verktøyet, sier de selv.

I en studie fra University of Florida avslørte modellen KI-genererte sammendrag med høy presisjon, og i en annen studie fra Arizona State University hadde den bare 2 prosent falske positive og en like stor andel falske negative.

Bestrides

I en kommentar til undersøkelsen opplyser Google til The Register at selskapet bestrider selve troverdigheten til verktøyet fra Originality.ai:

– Dette er en mangelfull studie som bygger på ufullstendige data og en upålitelig teknologi, sier en talsperson for teknologigiganten.

Google har dessuten aldri hevdet at de vil utelukke KI-generert innhold fra søkeresultater eller sammendrag.

I et blogginnlegg fra 2023 skriver Google tvert imot at søkeresultater skal fremheve innhold basert på kvalitet, ikke på hvordan det er produsert.

Artikkelen ble først publisert på Ingeniøren for deres abonnenter. Den er tilgjengelig for Digis abonnenter gjennom vår samarbeidsavtale.