USA vurderer lovfestet nødbrems for KI

Amerikanske lovgivere ønsker å gi myndighetene lov til å stenge ned KI-verktøy med en såkalt «kill switch», skriver BBC.

Forslaget kommer etter Open AIs modell på eget initiativ hacket oppstartsbedriften Hugging Face.

Lovforslaget, kalt AI Kill Switch Act, er fremmet av kongressrepresentantene Ted Lieu og Nathaniel Moran.

Viktigere med sikkerhet

Marius Sandbu, KI- og skyspesialist i Sopra Steria, forstår hvorfor amerikanske politikere ønsker en nødbrems. Samtidig mener han at en kill switch ikke nødvendigvis er det beste tiltaket.

Sandbu viser til at det tok rundt en uke før Open AI ble klar over hva som hadde skjedd.

– Da kan man spørre hvor mye hjelp det er i en kill switch. Den fungerer først når noen vet at noe er galt, sier han.

Sandbu mener det er viktigere at KI-selskapene får på plass robuste testmetoder og grunnleggende sikkerhetstiltak som hindrer modellene i å gjøre noe de ikke skal.

Han peker også på at lovforslaget i praksis først og fremst vil legge føringer på amerikanske selskaper.

– Ser du noen ulemper med et slikt forslag?

– Det eneste er at amerikanske myndigheter kan få svært omfattende innsyn i og kontroll over selskapenes KI-tjenester, svarer Sandbu.

– Avgjørende

Lovforslaget skal blant annet kunne brukes dersom en KI-modell gjør noen den ikke er satt til å gjøre.

Myndighetene trenger dermed ikke å vente til en modell har forårsaket skade.

Blir forslaget vedtatt, vil USAs sikkerhetsminister blant annet kunne beordre KI-selskapet til å redusere kapasiteten til en modell, blokkere enkeltbrukere eller stenge ned hele systemet.

Samtidig må selskapene på forhånd sørge for at de har den tekniske muligheten til å gjennomføre et slikt pålegg.

– Det er avgjørende at KI-systemene har en nødbryter og at føderale myndigheter har en tydelig myndighet og prosess for å stenge modeller som oppfører seg farlig, sier kongressrepresentant Lieu, ifølge BBC.

Lovforslaget vil hovedsakelig gjelde de største KI-selskapene.

Det stiller blant annet krav om minst 500 millioner dollar i årlige KI-inntekter og modeller som er utviklet med svært store mengder regnekraft.

Les hele lovforslaget her.

Må behandles

Ifølge lovforslaget vil et selskap som får pålegg om å begrense eller stenge en modell kunne be myndighetene om å vurdere avgjørelsen på nytt.

Selskapet må likevel følge pålegget mens klagen behandles.

Dersom selskapet nekter å følge pålegget, kan det ilegges bøter på opptil 20 millioner dollar for hver dag overtredelsen fortsetter.

Lovforslaget må behandles og vedtas av Kongressen før det kan tre i kraft.