Slik skal Google forberede seg på kunstig, generell intelligens

KI-utviklingen går unna, og den såkalte KGI-teknologien – kunstig, generell intelligens – er nå nærmere enn mange hadde forestilt seg for bare kort tid siden. Flere av de store aktørene har begynt å forberede seg.

Google, via sin KI-avdeling Deepmind, publiserte nylig et dokument hvor selskapet redegjør for farene knyttet til KGI – og hvordan de møter dem.

Fire risikoområder

Selskapet åpner med å si at KGI nå trolig bare er få år unna, og i den forbindelse har de definert fire risikoområder: misbruk, feiltilpasning, feil og strukturelle risikoer – hvorav de to første er viet mest oppmerksomhet.

KGI refererer til en type kunstig intelligens som kan forstå, lære og bruke intelligens på tvers av et bredt spekter av oppgaver, på samme måte som menneskelige kognitive evner.

Det første risikoområdet, misbruk, er allerede i dag en velkjent risiko knyttet til kunstig intelligens, men med KGI-æraen vil dette problemet kunne bli ytterligere forverret, mener Google.

Misbruk i denne konteksten er definert som bevisst å gi instruksjoner til KI-systemet om å utføre handlinger som forårsaker skade, imot utviklerens intensjon. For eksempel kan et KI-system hjelpe en hacker med å utføre cyberangrep mot kritisk infrastruktur.

Google jobber her blant annet med å utvikle sofistikerte sikkerhetsmekanismer som kan hindre ondsinnede aktører i å få direkte tilgang til modellens vektorer, noe som gjør det mulig for dem å omgå sikkerhetsbarrierer.

Følger egne mål

Feiltilpasning, eller det som på KI-språk kalles «misalignment» på engelsk, refererer til de tilfellene hvor KI-systemet forfølger mål som ikke samsvarer med de menneskelige intensjonene til brukeren.

Et eksempel Google nevner er et KI-system som blir bedt om å kjøpe billetter til en kinofilm, men for eksempel beslutter å hacke seg inn i billettsystemet for å skaffe seg billetter til sitteplasser som allerede er opptatt – en mulighet brukeren kanskje ikke engang er klar over.

Ifølge Google er det enklere å korrigere feiltilpasning i de tilfellene hvor KI-systemet forfølger mer kortsiktige/enkle mål, men farene kan bli vesentlig større ved mer kompliserte/langsiktige mål.

Et eksempel på dette kan være om man bruker et KI-system til å bistå med å planlegge en ny by, hvor systemet utvikler en plan det anser som optimal, men fabrikerer meningsmålinger som viser populær støtte for planen og skjuler negative tilbakemeldinger.

En løsning på dette er det Google kaller «forsterket tilsyn», som innebærer å vurdere om et KI-systems svar er gode eller dårlige når det gjelder å oppnå det ønskede målet.

– Vil heve levestandarden

Ved siden av farene peker Google også på de mange fordelene KGI vil føre med seg.

– KGI, hvis det implementeres trygt, bredt og kostnadseffektivt, har potensialet til å heve levestandarden over hele verden. [...] For det første ved å drive økonomisk vekst og velstand ved å bidra til raskere, mer kostnadseffektiv innovasjon, skriver Google.

Teknologien vil også kunne heve levestandarden ved å legge til rette for høyere kvalitet på blant annet utdanning og helsevesen, tror selskapet.

Flere detaljer om Googles betraktninger rundt KGI finner man i dokumentet.

Også andre aktører, som Open AI, har begynt å forberede seg på KGI-æraen. Open AI-sjef Sam Altman har uttalt at de nå vet hvordan teknologien skal bygges og at KGI trolig er langt nærmere enn folk flest tror.