Medgründer i Google, Sergey Brin, advarer aksjonærene om ansvaret og problemstillingene som følger med utviklingen av kunstig intelligens. Her er Brin fotografert under et arrangement Mountain View, California, i mai 2015.
Medgründer i Google, Sergey Brin, advarer aksjonærene om ansvaret og problemstillingene som følger med utviklingen av kunstig intelligens. Her er Brin fotografert under et arrangement Mountain View, California, i mai 2015. (Foto: AP Photo/Tony Avelar)

Kunstig intelligens

Google-gründer advarer mot den mørke siden av AI

Maner til stor varsomhet, ansvarlighet og ydmykhet.

I et brev til aksjonærene i Alphabet, moderselskapet til Google, advarer den ene av de to Google-gründerne, Sergey Brin, om ansvaret som følger med når banebrytende teknologier tas i bruk. Han nevner spesielt maskinlæring, kunstig intelligens og kvantedatamaskiner. 

– Den nye våren for kunstig intelligens er den mest betydningsfulle utviklingen innen databehandling i min levetid. Da vi startet selskapet, var nevrale nettverk en glemt fotnote innen informatikk, en etterlevning av 1980-tallets AI-vinter, skriver Brin, som er president i Alphabet.

Datatilsynet: – Vi tror ikke at kunstig intelligens blir personvernets undergang

Spørsmål og ansvar

I dag er nevrale nettverk tatt i bruk av blant annet Google, i svært mange av selskapets tjenester. Flere bruksområder legges til hver måned. Brin kaller det hele for en teknologirenessanse, en tid hvor vi kan se bruksområder på nær sagt ethvert segment i det moderne samfunnet.

– Likevel bringer slike kraftige verktøy med seg nye spørsmål og nytt ansvar. Hvordan vil de påvirke sysselsettingen på tvers av ulike sektorer? Hvordan kan vi forstå hva de gjør under panseret? Hva med rettferdighetsmål? Hvordan kan de manipulere mennesker? Er de trygge, skriver Brin.

Les også: Er bekymret for AI som behandler mennesker urettferdig. – Maskinlæringsmodeller kan trenes opp med «feil» data, sier Microsoft-sjef (Digi ekstra)

Trygghet

Han forteller at gjøres betydelig tanke- og forskningsarbeid på alle disse områdene. 

– Spesielt gjelder dette trygghet, noe som spenner over et bredt spekter av bekymringer, fra frykten for science fiction-lignende bevissthet til spørsmål som tidsmessig er nærmere, slik som validering av prestasjonene til selvkjørende biler, fortsetter Brin.

Han påpeker at forventningene til teknologi avhenger av nasjonalitet, kulturell bakgrunn og politisk tilhørighet. 

– Derfor må Google utvikle produktene sine med stadig mer omsorg og omtanke, skriver Brin.

– Selv om jeg er optimistisk når det gjelder potensialet om å ta i bruk teknologi for å løse de største problemene i verden, er vi på en vei hvor vi på trå med stor varsomhet, ansvarlighet og ydmykhet. Dette er Alphabets mål, fortsetter han.

Også Google: «Skynet» er mange tiår unna

Googol

Brin kommer i brevet også med noen interessante sammenligninger av regnekraft. Det første året etter at Google startet opp, brukte selskapet Pentium II-prosessorer. Disse kunne ifølge Brin utføre omtrent 100 millioner flyttalloperasjoner i sekundet. 

– GPU-ene (grafikkprosessorer, journ. anm.) vi bruker i dag utfører omtrent 20 billioner slike operasjoner – omtrent 200 000 ganger så mye – og vår egen TPU (Tensor Processing Unit, journ. anm.) er nå i stand til å utføre 180 billioner flyttallsoperasjoner per sekund, skriver Brin. 

Men selv disse tallene er små sammenlignet med løftene om kvantedatamaskiner. 

– En feilkorrigert kvantedatamaskin med 333 qubit vil leve opp til navnet vårt og tilby 10 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 ganger ytelsesøkning, skriver Brin.

Dette er et tall med hundre nuller, kalt googol. Google er oppkalt etter dette tallet, men navnet ble stavet feil da det ble foreslått. Dette ble raskt oppdaget, men gründerne valgte likevel å fortsette å bruke denne skrivemåten. 

Leste du denne? Nå snakker Google om «kunstig intelligens først» (Digi ekstra)

Kommentarer (5)

Kommentarer (5)
Til toppen