Slik skal ChatGPT-skaperen forberede seg på «katastrofale» konsekvenser av kunstig intelligens

Den raske utviklingen innen kunstig intelligens har bragt med seg mange goder, men teknologien har også et betydelig, destruktivt potensiale. Også de som utvikler teknologien har kommet med advarsler, men nå skal en av hovedaktørene trappe opp sikkerhetsarbeidet.

OpenAI kunngjør på sin offisielle blogg at de har opprettet et eget team som skal fokusere på å minimere risikoen knyttet til kunstig intelligens – under det talende navnet «Preparedness».

Katastrofale risikoer

Hovedoppgaven til det nyopprettede teamet er ifølge å følge med på, evaluere, forutse og beskytte mot det OpenAI kaller «katastrofale risikoer» rundt kunstig intelligens.

Disse risikoene omfatter blant annet manipulering på individnivå, cybersikkerhet og kjemiske, biologiske, radiologiske og kjernefysiske trusler. I tillegg anser OpenAI den såkalte ARA-trusselen som en av de største å være på vakt for.

ARA står for «autonomous replication and adaptation» på originalspråket, og refererer til et KI-system sin evne til å kopiere og modifisere sine egne algoritmer og parametere på egen hånd – uten menneskelig innblanding.

Dette er egenskaper som gjerne forbindes med såkalt AGI (artificial general intelligence), som refererer til en form for kunstig intelligens som er i stand til å forstå, lære og anvende kunnskap på omtrent samme måte som mennesker.

Ifølge OpenAI er målet til teamet både å fokusere på nye modeller som vil bli utviklet i den nære fremtid, men også fremtidige systemer som byr på AGI-ferdigheter.

Kan være nærme

Enn så lenge er AGI et fenomen som primært hører hjemme i blant annet filmer og TV-serier, men flere aktører som jobber med KI-teknologi har spådd at teknologien ikke nødvendigvis er så langt unna som mange tror.

OpenAI la selv ut et innlegg på bloggen sin tidligere i år, hvor selskapet understreket viktigheten av å forberede seg på AGI-teknologien allerede nå.

– AGI har potensiale til å gi alle mennesker fantastiske, nye ferdigheter; vi kan forestille oss en verden hvor vi alle har tilgang til hjelpe med nesten hvilken som helst kognitive oppgave, og mangedoble menneskelig oppfinnsomhet og kreativitet. På den andre siden kommer AGI også med en alvorlig risiko for misbruk, drastiske ulykker og samfunnsmessige omveltninger, skrev OpenAI og la til:

– Fordi fordelene ved AGI er så store, tror vi ikke det er mulig eller ønskelig for samfunnet å stanse dets utvikling for all tid; i stedet må samfunnet og utviklerne av AGI finne ut av hvordan vi kan gjøre det riktig.

I forbindelse med opprettelsen av det nye sikkerhetsteamet har OpenAI også lansert noe de kaller «preparedness challenge» – en slags konkurranse hvor bidragsytere kan få utbetalt opptil 25.000 dollar for ideer og innspill rundt de mindre åpenbare truslene og farene knyttet til kunstig intelligens.