Alle gigantene slår seg sammen: Massiv allianse skal sikre trygg KI-teknologi

Utviklingen innen kunstig intelligens går nå så raskt at til og med selskapene som står bak teknologien har begynt å uttrykke til dels stor bekymring rundt sikkerheten og risikoen som utviklingen medbringer.

Nå har samtlige av de viktigste aktørene på feltet formet en bred allianse som skal ivareta sikkerheten rundt KI-teknologien – døpt «Coalition for Secure AI» (COSAI).

Blant den nye alliansens mektige medlemmer finner vi Google, Microsoft, Open AI, Intel, IBM, Nvidia, Paypal, Amazon, Cisco og Anthropic.

Sikkerhet «by design»

Alliansen er etablert under OASIS Open – en ideell organisasjonen som jobber med å utvikle og fremme åpne standarder på felt som sikkerhet, personvern, nettskyteknologi og kryptovaluta.

Det primære formålet med den ferske koalisjonen er å gi alle aktører på KI-feltet veiledning og verktøy som trengs for å bygge KI-systemer som er sikre «by design» – det vil si at sikkerhet er bygget inn i systemene fra grunnen av.

Organisasjonen skal, i deres egne ord, legge til rette for et økosystem for samarbeid og deling av metodologier og standardiserte rammeverk for utvikling av KI-teknologi.

Tanken er å redusere de mange risikoaspektene og sårbarhetene som potensielt ligger i teknologien, en jobb som ifølge alliansen er for krevende for enkeltaktører å håndtere.

– I dag er sikring av KI og KI-applikasjoner- og tjenester en fragmentert bestrebelse. Utviklere sliter med et lappeteppe av retningslinjer og standarder som ofte er inkonsekvente og isolerte, skriver COSAI og fortsetter:

– Å vurdere og dempe AI-spesifikke og utbredte risikoer uten tydelige beste praksiser og standardiserte tilnærminger, er en betydelig utfordring selv for de mest erfarne organisasjonene.

Skal bidra med ekspertise

Til å begynne med skal organisasjonen fokusere på tre saker; sikring av leverandørkjedene bak KI-systemer, forberede sikkerhetspersonell på det nye trussellandskapet som KI har gitt oss, og utvikling av beste praksiser og rammeverk for risikovurderinger.

– Vi tror at utviklingen av robuste standarder og praksiser er essensielt for en trygg og ansvarlig bruk av KI, og vi har forpliktet oss til å samarbeide på tvers av industrien for å gjøre dette. Gjennom vår deltakelse i COSAI vil vi bidra med vår ekspertise og ressurser for å skape et sikkert KI-økosystem som gagner alle, sa sjef for Open AIs sikkerhetsavdeling Nick Hamilton.

Vi har allerede sett mange eksempler på de ulike risikoene ved kunstig intelligens-teknologien, spesielt når det gjelder svindelkriminalitet og «deepfake»-fenomenet.

Aktørene selv anerkjenner truslene, og Open AI har for eksempel tidligere holdt igjen både videogeneratoren Sora og den nye talegeneratoren på grunn av nødvendigheten av grundige risikovurderinger.

Myndighetene forsøker på sin side å ligge i forkant, og EU har som kjent nylig vedtatt et omfattende lovverk som skal regulere KI-teknologien.