Anthropic-gründer: KI-utvikling kan ikke utelukkende overlates til teknologiselskapene
Medgründer av Anthropic, Chris Olah, sa at ekstern regulering av KI er avgjørende da han besøkte Vatikanet mandag.
Olah talte under presentasjonen av pave Leos første pavelige rundskriv, en såkalt encyklika, som er et offisielt skriv fra paven til kirkens biskoper og troende. Manifestet dreier seg blant annet om å trygge menneskeheten i en tid med økende bruk av kunstig intelligens.
Olah uttalte at utviklingen av KI ikke kan overlates utelukkende til teknologiselskaper og oppfordret til større tilsyn fra religiøse ledere, myndigheter og sivilsamfunnet. Han mener det er en «reell mulighet» for at KI vil fortrenge menneskelig arbeidskraft i «svært stor skala».
– Hvis det skjer, vil det å støtte dem som blir fordrevet, være en moralsk plikt av historiske dimensjoner, sa Olah med paven ved sin side.
Han la til at KI-selskaper opererer under sterkt kommersielt, geopolitisk og personlig press som kan stå i strid med samfunnets bredere interesser.
– Hvert ledende KI-laboratorium opererer innenfor et sett av insentiver og begrensninger som noen ganger kan komme i konflikt med å gjøre det rette, sa han, og la til at selv velmenende forskere blir påvirket av disse kreftene.
Dette gjør ekstern kontroll avgjørende, mener KI-gründeren.