OpenAI er en non-profit forskningsbedrift som skal forsøke å motvirke at kunstig intelligens blir farlig eller misbrukt. (Foto: Mopic/Alamy/All Over Press)

Kunstig intelligens

Har fått en milliard dollar til å hindre at «AI» blir farlig

Teknologieksperter vil sikre at kunstig intelligens blir et gode for menneskeheten.

I slutten av forrige uke ble det kjent at en rekke teknologitopper og investorer har gått sammen om å etablere en OpenAI, en non-profit-virksomhet som skal forske på kunstig intelligens for å sikre at det vil bli positivt for menneskeheten.

Fordi OpenAI ikke har noen finansielle forpliktelser, mener virksomheten at den vil være bedre i stand til å konsentrere innsatsen om et resultat som er positivt for menneskeheten, uten å måtte forholde seg til innfallene til en kommersiell bedrift eller enkeltperson.

Dette gjøres mulig ved at OpenAI allerede har blitt finansiert ved hjelp av omtrent 1 milliard dollar i donasjoner fra Sam Altman, Greg Brockman, Elon Musk, Reid Hoffman, Jessica Livingston, Peter Thiel, Amazon Web Services (AWS), Infosys og YC Research.

Blant disse har spesielt Tesla-sjef Elon Musk tidligere uttalt at han frykter konsekvensene av ukontrollert, kunstig intelligens.

Full av overraskelser

I kunngjøringen om etableringen av OpenAI heter det at kunstig intelligens som fagfelt alltid har vært fullt av overraskelser. Det nevnes blant annet at dyp læring, som det har blitt forsket på i flere tiår, relativt plutselig har begynt å oppnå betydelige resultater innen flere problemområder, ikke minst innen mønstergjenkjenning.

Det understrekes at evnene til dagens kunstige intelligens er imponerende, men bare innen begrensede områder. Likevel mener OpenAI at vi greier å fjerne stadig mer av begrensningene.

– I ekstremtilfellet vil de nå menneskelig ytelse innen omtrent hver eneste, intellektuelle oppgave, skriver OpenAI, som mener det er vanskelig å fatte i hvor stor grad kunstig intelligens på et menneskelig nivå vil kunne være en fordel for samfunnet, skriver OpenAI.

Vanskelig å forutse

– Og det er tilsvarende vanskelig å se for seg hvor mye det kan skade samfunnet dersom det blir brukt galt. På grunn av den overraskende historien til kunstig intelligens, vil være vanskelig å forutse når kunstig intelligens på menneskenivå kommer innen rekkevidde.

– Når den gjør dette, vil det være viktig å ha en ledende forskningsinstitusjon som kan prioritere et godt alle framfor dens egen egeninteresse, skriver OpenAI, som håper å kunne være denne ledende forskningsinstitusjonen når dette tidspunktet inntreffer.

OpenAI er ment å motvirke store selskaper og myndigheter som kanskje oppnår for mye makt ved å eie og bruke slike superintelligente systemer.

OpenAI har knyttet til seg en rekke forskere og teknologer innen kunstig intelligens og maskinlæring fra blant annet Facebook, DeepMind og Google. Forskningsdirektøren i OpenAI er Ilya Sutskever, som inntil nylig var forsker i Google Brain Team.

Nettstedet Medium publiserte i helgen et langt intervju med Musk og Altman om denne nyheten. Begge sitter i styret til OpenAI.

I utgangspunktet skal resultatene av alt forskningsarbeidet som gjøres innen OpenAI, gjøres åpent tilgjengelig. Dette gjelder også eventuelle patenter.

Til toppen