– Feil KI-svar er ille. Feil resonnering er verre
I takt med at kunstig intelligens (KI) blir brukt i agentroller, gir feil i resonering økt risiko, skriver Edd Gent i IEEE Spectrum. Han starter med å slå fast at alle vet at KI fortsatt gjør feil. Det han mener er et større problem, er hvordan KI kommer til sine konklusjoner.
– I takt med at generativ KI i økende grad brukes som assistent heller enn bare et verktøy, er det to studier som antyder at hvordan modellene resonnerer kan få alvorlige følger på kritiske områder som helse- og omsorg, lovarbeid og utdanning, skriver Gent.
En av undersøkelsene fant at KI-modellene sliter med å skille mellom brukernes tro og fakta. En annen fant at multiagent-systemer designet for å levere medisinske råd risikerer å gi feil diagnoser på grunn av feil i resonneringen. (hf)