KUNSTIG INTELLIGENS

Googles fremste AI-forsker forlater selskapet – kommer med sterke advarsler

Geoffrey Hinton kalles «gudfaren» av kunstig intelligens.

Geoffrey Hinton er en av AI-pionerene, men nå har han trådt inn i rekken av kritikere av teknologien.
Geoffrey Hinton er en av AI-pionerene, men nå har han trådt inn i rekken av kritikere av teknologien. Foto: https://www.cs.toronto.edu/~hinton
2. mai 2023 - 07:40

Kunstig intelligens har som kjent sine kritikere, også blant høyt profilerte personer som Elon Musk og Apple-medgrunnlegger Steve Wozniak. Nå har imidlertid en av AI-teknologiens fremste forskere og pionerer kommet på banen med dramatiske advarsler mot den raske utviklingen på feltet.

Geoffrey Hinton har stått bak mange viktige fremskritt innen kunstig intelligens, især maskinlæringsteknologi og utviklingen av såkalte nevrale nettverk, hvor han har mottatt mange priser og utmerkelser.

– Skremmende

Hinton ble ansatt hos Google i 2013, da selskapet kjøpte bedriften hans DNNresearch Inc., og han har jobbet med AI-teknologi hos selskapet siden den gang. Han ble ansett som selskapets fremste forsker på feltet, men nå har han tatt hatten sin og gått, rapporterer The New York Times.

Den kjente AI-ingeniøren opplyser overfor avisen at han har sagt opp stillingen sin hos Google fordi han ønsker å være fri til å kritisere og advare mot teknologiens potensielle farer. I likhet med en del andre kritikere ønsker Hinton en midlertidig stans i utviklingen.

– Se på hvordan det var for fem år siden og hvordan det er nå. Forestill deg at den forskjellen forplantes frem i tid. Det er skremmende, sier Hinton til The New York Times. Han forteller avisen at han tidligere trodde det ville ta kunstig intelligens 30 til 50 år å kunne konkurrere med menneskelig intelligens, men på grunn av de raske utviklingen han han endret mening.

– Jeg mener forskere ikke bør skalere dette opp noe mer før de har forstått hvorvidt de kan kontrollere det.

Hinton frykter ellers at teknologien vil kunne starte en massiv bølge av falsk informasjon i tiden fremover, både i form av AI-skapte bilder, tekster og video som vil være svært vanskelig å skille fra ekte vare.

Frykter ondsinnede aktører

Dette har vi allerede begynt å se eksempler på. Digi.no har tidligere rapportert om svindlere som bruker kunstig intelligens til å utgi seg som ofrenes familiemedlemmer på en svært overbevisende måte, og kvinner som blir frastjålet ansikt og kropp til syntetisk porno.

Hinton peker på hvor enkelt det er for aktører med mindre enn edle hensikter å utnytte teknologien, noe vi for eksempel har sett i form av AI-utviklet skadevare som en ny, gryende trend.

– Det er vanskelig å se hvordan man kan hindre ondsinnede aktører i å bruke det til onde formål, sier han til The New York Times.

I tillegg advarer den prominente AI-forskeren mot at den raske utviklingen vil føre til at mange jobber kan tas over av kunstig intelligens – en trend som også allerede er påbegynt. Faren for selvstyrte våpensystemer er en annen bekymring Hinton deler med The New York Times.

Utover teknologiaktørene er også myndigheter i økende grad alarmert over den raske utviklingen på AI-feltet, deriblant EU, som for tiden jobber med lovgivning knyttet til kunstig intelligens.

Frank Rosenblatt demonstrerer forløperen for dagens dype nevrale nettverk, Mark 1 Perceptron.
Les også

Etter 80 år har AI lært seg å spå fremtiden

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.
Tekjobb
Se flere jobber
En tjeneste fra