Tech-giganter lanserer sikkerhetsverktøy for kunstig intelligens
Tech-gigantene OpenAI, Roblox og tidligere Google-sjef Eric Schmidt er blant bidragsyterne når det nå skal lanseres sikkerhetsverktøy for kunstig intelligens.
Initiativet går under navnet The Robust Open Online Safety Tools (Roost), og skal bygge «skalerbar, interoperativ sikkerhetsinfrastruktur egnet for KI-æraen», ifølge en uttalelse.
Roost ble annonsert under KI-toppmøtet i Paris som startet mandag og skal ta for seg et «viktig gap» i digital sikkerhet, da særlig for barn.
Det skal gjøres ved å levere gratis sikkerhetsverktøy til både offentlige og private organisasjoner verden over. Verktøyene skal blant annet kunne brukes til å oppdage og rapportere overgrepsmateriale.
Verktøyene skal være såkalt «open source», altså at de har en åpen kildekode. Dette vil si at utviklere åpent deler hvordan KI-systemene deres fungerer. Håpet er at dette skal øke tilliten til KI-teknologi.
Initiativet skal allerede ha fått inn 27 millioner dollar i finansiering fra donorer, deriblant filantroper og store teknologiselskaper. Både OpenAI, spillplattformen Roblox og tidligere Google-sjef Eric Schmidt er blant dem som stiller seg bak prosjektet.