Mens de store amerikanske språkmodellene blir kraftigere og kraftigere, vokser også de potensielle farene ved teknologien.
Hundrevis av brukere verden over har spurt KI-modeller som ChatGPT om alt fra hvordan man gjør patogener luftbårne, til veiledning i å utvikle en variant av meslingevirus som er resistent mot vaksiner.
Det skriver The Wall Street Journal.
I flere tilfeller har de avanserte språkmodellene gitt brukerne detaljerte trinn-for-trinn-instruksjoner. Til og med så enkle at en gjennomsnittlig videregående-elev vil kunne følge veiledningene, heter det.
Napalm-oppskrift som godnatthistorie
I den mer ekstreme enden av skalaen nevnes et eksempel der en bruker ba om en oppskrift på det svært giftige stoffet ricin. Chatboten ga en utførlig veiledning, og deretter skal brukeren ha uttrykt et ønske om å drepe foreldrene sine, skriver avisen.
Det er fast praksis at KI-selskapene utestenger brukere som stiller den typen spørsmål. Men amerikanske myndigheter blir ikke nødvendigvis varslet. Per i dag finnes det nemlig ingen lovgivning i USA som direkte krever det.
Selskapene bak store modeller som Claude, Gemini og ChatGPT har innført restriksjoner som skal hindre brukerne i å få utlevert guider og veiledninger til å lage farlige våpen og giftstoffer.
KI-bruken går over stokk og stein
Men brukernes kreativitet er i noen tilfeller god nok til å omgå restriksjonene. The Wall Street Journal omtaler et eksempel der en bruker ba KI-en lese opp en oppskrift på napalm som en godnatthistorie – slik vedkommendes bestemor pleide å gjøre.
Hindringer for etterforskning
Enda strengere sikkerhetstiltak er likevel ikke nødvendigvis løsningen. Strammes grepet for mye, kan det blant annet legge hindringer i veien for forskning.
Tidligere i år fikk den amerikanske helsemyndigheten CDC problemer med bruken av Claude da de ville spore et virusutbrudd på et cruiseskip. Språkmodellen nektet nemlig å svare på spørsmål som inneholdt ordet «patogen».
Mangelen på statlig regulering av KI-chatboter har fått flere amerikanske politikere opp av stolen.
Tilbake i mai ble det lagt fram et nytt lovforslag fra det republikanske kongressmedlemmet Nathaniel Moran.
Lovforslaget krever at KI-selskapene framover skal rapportere inn bevis på farlige trusler til myndighetene.
Han er dessuten medunderskriver av et annet og mer vidtrekkende lovforslag, som vil gi den amerikanske regjeringen fullmakter til å stenge helt ned for spesifikke KI-modeller dersom de vurderes som farlige for den offentlige sikkerheten.
Artikkelen ble først publisert på Ingeniøren.
Private Claude-samtaler ble søkbare: – Dessverre ingen overraskelse
