Microsoft satser på superintelligens – advarer samtidig

Den store, fremtidige milepælen innen kunstig intelligens regnes for å være kunstig, generell intelligens (KGI), men noen har allerede begynt å løfte blikket enda høyere – mot «superintelligens».

Blant dem er Microsoft, som nå har lagt frem sin egen tilnærming til superintelligens-konseptet. Nyhetsbyrået Reuters er blant dem som har skrevet om saken.

Sjefen for Microsofts KI-avdeling, Mustafa Suleyman, opplyser at de nå har etablert et eget team med det talende navnet «MAI Superintelligence Team» – som skal jobbe spesifikt med å utvikle såkalt «humanistisk superintelligens» (HSI).

Samtidig er skepsisen stor. En av Norges fremste KI-eksperter, Robert Engels – som leder KI-laben til Capgemini globalt, avfeier tech-gigantenes påstander om snarlig kunstig generell intelligens som tøv og har i Digi kalt det en økonomisk motivert opphaussing.

Forbi menneskelig nivå

Superintelligens har aldri hatt en universell, konkret definisjon, men i artikkelen sin peker Suleyman på hva han mener er kjernen i denne teknologien.

– I år føles det som om alle innen KI snakker om begynnelsen på superintelligens. Et slikt system vil ha en åpen evne til å «lære å lære», den ultimate metaferdigheten. Det vil derfor sannsynligvis fortsette å forbedre seg og gå langt forbi menneskelig ytelsesnivå på tvers av alle tenkelige aktiviteter. Det vil bli mer verdifullt enn noe vi noensinne har kjent til, skriver Suleyman.

Han legger frem tre hovedområder hvor han tror superintelligens vil spille en viktig rolle, og som motiverer arbeidet. Ett av disse er superavanserte KI-kompanjonger som er dypt tilpasset hvert enkelt individ, men som likevel ikke skal erstatte – men snarere støtte – menneskelige bånd.

Medisin er en annen sentral anvendelse, tror Suleyman, og utvikling av ren energi er det tredje området hvor teknologien vil ha en merkbar effekt.

Autonomi-bekymring

Microsoft AI-sjefen peker imidlertid på viktigheten av å ikke bare fokusere på hvordan denne teknologiske milepælen kan oppnås, men at den faktisk tjener menneskeheten – og det er her det «humanistiske» aspektet kommer inn i bildet.

Suleyman sier det er av avgjørende betydning å holde KI-teknologien i sjakk for å sikre at den ikke kommer ut av kontroll etter hvert som den beveger seg inn i de neste evolusjonsfasene innen autonomi og selvforbedringsevner.

– Vi vet rett og slett ikke hva som kan oppstå fra autonome systemer som stadig utvikler og forbedrer seg, og som kjenner hver eneste del av vitenskapen og samfunnet vårt. Og siden en slik superintelligens kan forbedre seg kontinuerlig, må vi ikke bare kontrollere og justere den én gang, men hele tiden — i all fremtid, skriver Suleyman.

Superintelligens kan best kontrolleres ved blant annet å legge strenge restriksjoner på teknologiens autonome egenskaper, mener han, samt sørge for at teknologien alltid er på linje med menneskelige interesser – det som kalles «alignment» på KI-språket.

Advarer

Det nye Microsoft AI-initiativet er på sett og vis en formalisering av det mange allerede har advart mot og tatt til orde for. Som Digi rapporterte har for eksempel «gudfaren av KI», nobelprisvinner Geoffrey Hinton, uttalt at det er en reell fare for at KI-teknologien kan utvikle seg til et punkt hvor den står i fare for å vende seg mot mennesker.

– Hvis vi ikke kan finne en løsning på hvordan vi kan fortsette å eksistere når KI-teknologien er blitt mye smartere enn oss, er vi ferdige, sa Hinton i et intervju. Han mener det må bygges et «morsinstinkt» og empati inn i teknologien.

Den ideelle organisasjonen Center for AI Safety har også gått i bresjen for å ta utryddelsesfaren fra KI på alvor.

– Å dempe utryddelsesrisikoen fra KI bør være en global prioritet ved siden av andre samfunnsmessige risikoer som pandemier og atomkrig, lyder et opprop som over 200 eksperter og bransjefolk stiller seg bak – inkludert Hinton selv.