Bare Jan-Erik møtte på KI-protest: – Vi spiller russisk rulett med menneskeheten

– Med overmenneskelig kunstig intelligens spiller vi russisk rulett med menneskeheten. Fremtiden er veldig usikker, der ingen er vinnere om vi ikke tar en pause og får på plass internasjonale avtaler om stans i KI-utviklingen, sier den norske Pause AI-lederen.

Den internasjonale organisasjonen er startet av den nederlandske programvareutvikleren Joep Meinderstma.

Vil sette utviklingen på pause

Hovedmålet til den frivillige organisasjonen er å få på plass en global avtale om å ta en pause i KI-utviklingen.

I tillegg vil Pause AI at det skal opprettes et internasjonalt byrå som kan håndheve avtalen – tilsvarende Det internasjonale atomenergibyrået (IAEA).

Mandag demonstrerte grupperingen i 14 internasjonale byer. Deriblant London, New York, Berlin, San Francisco og Oslo.

Første arrangement

Den norske demonstrasjonene hadde glissent oppmøte. Vinje var helt alene i Oslo.

– Dette var det første arrangementet til Pause AI i Norge. Det var nok litt for liten tid fra vi begynte med arrangeringen, til demonstrasjonen faktisk fant sted. Dermed ble det ikke tid til å mobilisere folket, sier Vinje som til daglig jobber som systemutvikler.

Pause AI-lederen hadde invitert flere norske aviser, ministere, stortingsgrupper og politiske partier.

Til tross for innsatsen, spilte han gitar alene i sola.

– Men jeg hadde mange gode samtaler med folk som var nysgjerrige på hva jeg holdt på med. Flere viste interesse over lang tid, og jeg snakket med mange som selv var bekymret, sier Vinje.

Splittet ekspert-miljø

Systemutvikleren viser til et splittet forskningsmiljø. I mai i fjor signerte over 200 eksperter på oppropet der de utrykte bekymring mot utviklingen innen fagfeltet.

Bak oppropet stod Center for AI Safety. Organisasjonen mener også at det må opp på den globale agendaen å begrense risikoen av en for rask utvikling.

Hovedfrykten deres er også at man til slutt kan miste kontroll over teknologien.

Hele Norges KI-ekspert og førsteamanuensis innen kunstig intelligens ved NTNU, Inga Strümke, var ikke spesielt imponert over oppropet i fjor sommer.

– Det blir jo ekstremt spekulativt, sa hun til Aftenposten.

«Gudfaren» ropte varsko

Blant de som signerte var både toppsjef i Open AI, Sam Altman, og professor emeritus i datateknologi, Geoffrey Hinton.

Han er kjent som en av «gudfedrene» innen kunstig intelligens.

I likhet med Vinje og Pause AI ønsker Hinton en midlertidig stans i utviklingen.

– Se på hvordan det var for fem år siden og hvordan det er nå. Forestill deg at forskjellen forplantes frem i tid. Det er skremmende, sa Hinton til The New York Times i mai i fjor og fortsatte:

– Jeg mener forskere ikke bør skalere dette opp mer før de forstår hvorvidt de kan kontrollere det.

Hovedbekymringen til Vinje og Center for AI Safety er vi mister kontroll over de superintelligente maskinene, og at det vil få katastrofale følger for menneskeheten.

Automatiserer bort jobber

Samtidig er nok mer nærliggende farer at skrivebordsroboter oversvømmer nettet med desinformasjon eller at KI-drevet automatisering utraderer millioner av arbeidsplasser.

Den norske Pause AI-lederen presiserer at han ikke er noen generell motstander av kunstig intelligens.

Han har selv jobbet med flere ideer til startups basert på KI.

– Allerede ser vi de negative konsekvensene av kunstig intelligens i Norge. Bare se på alt eksamensjukset vi sliter med i norsk skole, sier Vinje og fortsetter:

– Selv om det er mange åpenbare fordeler med bruk av KI er det problemer. I dag mister illustratører og oversettere jobben. Dette er et helt spekter vi ikke er klare for å håndtere, og med GPT-5 tror jeg mange blir overrasket over hvor kapabel den multimodale modellen blir.

– Min frykt er at vi potensielt kan passere terskelen allerede neste generasjon med GPT-5 eller få generasjoner frem i tid. Det tror jeg er lite sannsynlig, men vi vet dessverre ikke hvor grensen går, konstaterer han.

Ingen konspirasjonsteoretiker

Den norske Pause AI-lederen insisterer på at han ikke er noen konspirasjonsteoretiker. Trusselen fra kunstig intelligens er reel, mener han.

Han sammenligner det med våpenkappløpet under andre verdenskrig der stormaktene gjorde alt de kunne for å komme kjapt i mål med atombomben.

Den samme dynamikken er der i dag, mener Vinje:

– I dag går Kina og flere vestlige aktører «all inn» på utviklingen av kunstig intelligens. Om vi ikke finner en global enighet om et sett med regler, frykter jeg at vi gå inn i et selvmordskappløp der det bare finnes tapere.

– Pause AI mener vi må få på plass et pauseregelverk med tilhørende institusjoner for håndheving som har som har meget sterk demokratisk forankring.

– Personlig tenker jeg vi må gå lenger, og komme frem til en sosial kontrakt hvor det store flertallet anser det som et forræderi mot menneskeheten å delta i utvikling av overmenneskelig generell kunstig intelligens, sammenfatter Vinje.