DEBATT

KI og fullautomatisering: Vi må handle nå

Kunstig intelligens kommer til å automatisere en stor del av jobbene i nær fremtid. Det vil få store sosiale og økonomiske konsekvenser for samfunnet og individer.

Philip Nissen-Lie Trøen (16) kommer i innlegget med sine betraktninger om hvordan kunstig intelligens kan endre samfunnsmodellen og organisering av arbeid, og om hva som kan gå galt. I tillegg presenterer han en modell for hvordan det internasjonale samfunnet kan unngå eventuelle KI-relaterte katastrofer.
Philip Nissen-Lie Trøen (16) kommer i innlegget med sine betraktninger om hvordan kunstig intelligens kan endre samfunnsmodellen og organisering av arbeid, og om hva som kan gå galt. I tillegg presenterer han en modell for hvordan det internasjonale samfunnet kan unngå eventuelle KI-relaterte katastrofer. Foto: Privat
Philip Nissen-Lie Trøen
5. juni 2024 - 14:07

På grunn av kunstig intelligens (KI) står verdenssamfunnet overfor en stor endring til fullautomatisering av sosioøkonomisk arbeid. Til tross for de store risikoene er det påfallende lite diskusjon rundt dette emnet, og det blir ofte ikke tatt seriøst. Etter min mening var det beste tidspunktet for å diskutere dette i går, men det nest beste er i dag. Hvordan vi gjør dette, kan ha eksistensielle konsekvenser for menneskeheten.

Med dette innlegget ønsker jeg å få i gang debatten rundt fremtiden med et etterarbeidssamfunn og hvilken rolle Norge burde ha i den internasjonale diskusjonen.

Jeg vil fremheve noen alvorlige scenarier hvis konsekvenser er så store at myndighetene bør formulere en strategi for å imøtekomme disse.

Tre hovedpremisser for plausibiliteten av fullautomatisering er listet og begrunnet nedenfor:

Premiss 1: Forutsetning for automatisering

Økningen av forutsetninger for automatisering fortsetter med den hastigheten den har hatt hittil, i minst fem år til.

Tidsrammen på fem år er valgt som mitt konservative estimat for når en betydelig andel av arbeid er automatisert ut ifra tendensene de siste par årene.

Det spesielle med utvikling av store språkmodeller er at fremskrittene direkte kan inkorporeres i arbeidsflyten, som blir en selvforsterkende effekt. For eksempel kan språkmodeller skrive kode og rapporter, drive feilsøking og etter hvert også utføre eksperimenter på egen hånd.
Det ser heller ikke ut som om det er noen tekniske hindringer. I et intervju med administrerende direktør Sam Altman i OpenAI kom det frem at hva enn de økte/forbedret i testingen, forbedret det modellen. Vi har ikke funnet noen flaskehalser ennå.

Denne fremgangen vil direkte påvirke robotikk, ettersom den største tekniske hindringen der er KI-modellene som kontrollerer bevegelsene og tar rasjonelle valg for roboten.

Premiss 2: Insentiv for automatisering

Automatiserte systemer er billigere, raskere, bedre og tryggere enn menneskelige arbeidere.

Kostnadene for beregningsressurser synker kraftig. Nvidias nye KI-treningsgrafikkort reduserer kostnadene 25 ganger og øker ytelsen med 30. Dette gjør KI-modeller raskere og mer økonomiske enn menneskelige arbeidere. Med Nvidias årlige lansering av kort kommer KI uten tvil til å være både raskere og mer økonomisk enn menneskelige arbeidere.

Etter premiss 1 vokser prestasjonene til dagens modeller i en slik hastighet at det er sannsynlig at de tar igjen mange fageksperter innen en kort tidsramme. I et samfunn med systemer som kan være leger eller lastebilførere, kan det bli uetisk å la feilutsatte mennesker gjøre slike jobber.

Jelle Wieringa, IT-sikkerhetsevangelist hos KnowBe4, skriver i kronikken om hvor enkelt det er å bruke generativ kunstig intelligens til å lage phishingmeldinger, og hvor troverdige de framstår å være.
Les også

Jeg må dessverre avlive myten: Vi narres veldig lett av KI-svindel

Premiss 3: Automatiserbare nye industrier

Nye industrier skaper jobber som kan bli automatisert.

Den rådende kunnskapen er at teknologi alltid lager nye jobber, men det er ikke nødvendigvis sant. Når ting blir automatisert, for eksempel matproduksjon, får den generelle befolkningen råd til nye varer og tjenester. Ny etterspørsel åpner for nye industrier. Historisk sett har nye industrier ført til nye jobber, men ikke når de industriene også kan automatiseres.

Etterspørselen etter omsorgsarbeid eller kreativt arbeid vil ikke forsvinne, men vil heller ikke kunne sysselsette en stor nok del av arbeidsstokken. Det er heller ikke alle som er egnet til eller ønsker slike yrker.

Regnekraften (målt i FLOP – flytttalsoperasjoner per sekund) brukt til å trene betydningsfulle maskinlæringssystemer gjennom årene. Et interaktivt diagram er tilgjengelig <a href="https://epochai.org/data/epochdb/visualization">her</a>. <i>Illustrasjon:  Epoch AI (CC BY)</i>
Regnekraften (målt i FLOP – flytttalsoperasjoner per sekund) brukt til å trene betydningsfulle maskinlæringssystemer gjennom årene. Et interaktivt diagram er tilgjengelig her. Illustrasjon:  Epoch AI (CC BY)

Alvorlige risikoer

Slik det ser ut nå, kommer den største trusselen ikke av en selvhandlende KI ute av kontroll, men heller menneskene som kontrollerer den. Disse scenariene er bare mine egne meninger om hvordan ulike hendelsesforløp ville gått for seg.

Åpen kildekode

Åpen kildekode, eller «open source», gir fri tilgang til modeller offentligheten kan bruke eller finjustere. Mange er for åpen-kildekode-språkmodeller, spesielt i USA, der tilliten til myndighetene er lav.

Jeg mener det er farlig at hvem som helst kan finjustere en kraftig modell til å være villig til å masseprodusere propaganda eller drive lobbyvirksomheter i stor skala. Det aller farligste er imidlertid at et enkeltindivid kan få kunnskapen til for eksempel å fremstille et biovåpen. For å opprettholde sikkerhet i et slikt miljø kreves en ubehagelig mengde overvåkning.

Monopol

Hvis et spesielt profittdrevet selskap vinner kappløpet, kan de monopolisere teknologien til egen fordel. Jeg tror sannsynligheten for dette er lav på grunn av konkurranselovgivning, men den er ikke ubetydelig i land som USA, der det ikke er uhørt at lover blir endret i store selskapers favør.

Disse selskapene kan begrense tilgangen til modeller med høye kostnader eller bare bruke dem for egen fordel. De kan også gi offentligheten tilgang til forutinntatte eller umoralske modeller.

Itera-sjefen Arne Mjøs ser lysere utsikter mot slutten av året.
Les også

Svakere for Itera: – Vi forblir optimistiske

Norges imperativ

Det følgende er etter min mening den tryggeste fremgangsmåten for organisering av et etterarbeidssamfunn. Jeg er ingen ekspert innen makroøkonomi eller politiske systemer, men tror at noe lignende dette er mulig og nødvendig. Jeg vil påstå at dette er en global sak fordi det kan argumenteres som kontraproduktivt at ett land har implementert sikkerhetstiltak når noen fritt kan fremstille biovåpen i et annet.

Norge må ta initiativ internasjonalt til å danne en demokratisk organisasjon for å forvalte teknologien og omfordele profitten. Norge burde gjøre dette fordi noen må gjøre det, og vi har erfaring med gode velferds- og valgsystemer. Denne organisasjonen vil gi hele verden tilgang til en API for disse modellene så billig som mulig, samt sikre borgerlønn og offentlige tjenester. Denne bør være styrt av et proporsjonalt representativt demokrati med delvis autonome distrikter for å kunne høre alles meninger.

Staters insentiv til å bli med i denne organisasjonen, kan dannes ved å gi innbyggere og selskaper i landet rabatt for bruk av API-en og bare distribuere velferden til medlemslandene. Eksporten av det intellektuelle arbeidet til andre land vil skape en enormt positiv handelsbalanse, økonomisk vekst og kjøpekraft for medlemslandene, men dette er bare i det tilfellet at organisasjonen har en konkurransedyktig modell, noe jeg tror er mulig.

Nvidia skal få fart på utviklingen av humanoide roboter. Dette er Digit, utviklet av Agility Robotics – en av Nvidias samarbeidspartnere.
Les også

– Vi er ved et kritisk punkt i historien

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.