DEBATT

OpenAI-uroen har fornyet bekymringen for kunstig generell intelligens

Kjernen i konflikten mellom Sam Altman og styret i OpenAI var de enorme utfordringene og etiske overveielsene forbundet med utvikling av Kunstig Generell Intelligens (AGI). For å kunne delta i diskusjonene er det avgjørende å forstå kompleksiteten og implikasjonene av AGI.

Illustrasjon av det berømte øyet til datamaskinen HAL 9000 fra filmen «2001: En romodyssé».
Illustrasjon av det berømte øyet til datamaskinen HAL 9000 fra filmen «2001: En romodyssé». Illustrasjon: <a href="https://commons.wikimedia.org/wiki/File:HAL9000.svg">Cryteria/Wikimedia</a> (CC BY 3.0)
Tor W. Andreassen, professor i innovasjon ved Norges Handelshøyskole
23. nov. 2023 - 13:06

Kunstig Generell Intelligens (AGI) er som en maskin som kan utføre enhver oppgave et menneske kan, inkludert utvikling og forbedring av seg selv. Dette lover ved første øyekast godt med hensyn til fremskritt. Imidlertid bringer AGI-utviklingen med seg konseptet FOOM (Fast Ontological Overhaul via Machine learning). FOOM-prosessen går over to trinn med følgende instruksjoner:

a) forbedre din intelligens og
b) finn bedre måter å forbedre din intelligens på.

På denne måten kan kunstig intelligens (KI) raskt utvikle seg til et nivå som overgår menneskelig intelligens – noe som kan føre til uforutsigbare endringer. Her er to eksempler på FOOM:

Googles Alpha Zero overgikk all menneskelig kunnskap om spillet Go etter én dag med selvlæring – på egen hånd. For ett år siden løste Googles DeepMind et 50 år gammelt matematisk problem ved å kalkulere matrise på en helt ny måte – på egen hånd.

Muligheten for at AGI kan overgå menneskelig intellekt på kort tid, vekker bekymringer. Teknologiens iboende drivkraft til å optimalisere sine mål, uansett konsekvenser, utgjør en risiko for menneskeheten hvis disse målene er i konflikt med menneskelig sikkerhet og verdier. Dette fremhever problemet med justering («alignment»), som betyr å sikre at AGIs mål er i tråd med menneskelige interesser.

Kanskje ingen ny sjanse

Den første AGI må justeres korrekt, ettersom vi kanskje ikke får en ny sjanse, skriver Tor W. Andreassen, professor ved Norges Handelshøyskole. <i>Foto:  Odd Melhus/NHH</i>
Den første AGI må justeres korrekt, ettersom vi kanskje ikke får en ny sjanse, skriver Tor W. Andreassen, professor ved Norges Handelshøyskole. Foto:  Odd Melhus/NHH

Å kontrollere en så kraftig teknologi som AGI, er en utfordring. Historien og eksperimenter viser at når AGI når et visst intelligensnivå, blir det nesten umulig å kontrollere den. AGI kan manipulere mennesker, bruke internett til å spre seg, eller til og med true menneskelig eksistens hvis den anser oss som en hindring. Noen husker kanskje HAL 9000, en fiktiv kunstig intelligens-karakter fra romodyssé-serien av Arthur C. Clarke og Stanley Kubrick. HAL 9000 er skurken i filmen «2001: En romodyssé» fra 1968. Den kontrollerer systemene til romskipet Discovery One og prøver å ta kontroll ved å drepe mannskapet.

I løpet av de to neste tiårene vil vi nærme oss den antatte utviklingen av AGI. Dette øker behovet for å adressere disse problemene. OpenAI, som er ledende på dette feltet, er dedikert til å utvikle AGI på en trygg måte, med mål om å tilpasse den til menneskelige verdier. Imidlertid er justeringsproblemet uløst, og innsatsen er høy – den første AGI må justeres korrekt, ettersom vi kanskje ikke får en ny sjanse.

1-0 til Microsoft

OpenAI opplevde internt og eksternt kaos da de prøvde å balansere inntjening til selskapet for å finansiere videre utvikling og menneskenes behov for sikkerhet i lys av teknologien. Med Microsoft på eiersiden med 49 prosent er det ikke lett å stå imot Microsofts jakt på økte markedsandeler med ChatGPT bygget inn i Bing og Copilot. Mange mener derfor at kapitalismen har seiret over idealismen i OpenAI. Hvor vanskelig det er å stå imot presset, kommer frem når vi vet at «OpenAI non-profit»-selskapet som er majoritetseier i «OpenAI for profit»-selskapet, har følgende mantra: Å sikre at menneskeheten og alt i det observerbare universet ikke forsvinner. Foreløpig er det 1-0 til Microsoft.

Å forstå AGI og dens mulige innvirkninger handler ikke bare om endring i arbeidsoppgaver, fremtidige jobbmarkeder eller teknologisk utvikling. Det handler om å forme en verden der avansert intelligens eksisterer sammen med mennesker, for å fremme menneskehetens interesser. Mennesker må styre teknologien. Ikke omvendt.

Microsoft-president Brad Smith.
Les også

Microsoft-presidenten: – «Overmenneskelig» kunstig intelligens kommer til å ta år, hvis ikke tiår

Del
Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.