Den særdeles raske utviklingen på KI-feltet har kastet lys på mange faremomenter ved teknologien, og KI-selskapene selv tar truslene med en stor dose alvor.
Dette gjelder ikke minst Open AI, som nå skal utvide staben med en ny og svært viktig rolle.
Nylig publiserte Open AI-sjefen Sam Altman en melding på X hvor han opplyser at selskapet nå søker en «Head of Preparedness», som skal tildeles det tunge oppdraget å sørge for at teknologien utvikles på en trygg måte fremover.
– Har reelle utfordringer
Ifølge Altman har KI-teknologien nå kommet til et punkt hvor den begynner å utgjøre en fare som krever økt fokus, noe som er bakgrunnen for den ferske utlysningen.
– Dette er en kritisk rolle på et viktig tidspunkt; modeller forbedres raskt og er nå i stand til mange gode ting, men de har også begynt å presentere noen reelle utfordringer, skriver Altman, som fortsetter:
– Vi har et sterkt fundament for å måle de voksende ferdighetene, men vi er på vei inn i en verden hvor vi trenger en mer nyansert forståelse av hvordan disse ferdighetene kan bli misbrukt.
I innlegget sitt viser Open AI-sjefen til at 2025 ga oss en «forsmak» på den potensielle, store innvirkningen KI kan ha på mental helse.
Som Digi har skrevet, ble Open AI tidligere i år beskyldt for å oppmuntre til selvmord av foreldrene til en ung mann som tok sitt eget liv etter å ha hatt en interaksjon med Chat GPT. Dette førte til en rekke konkrete tiltak hos Open AI for å gjøre tjenesten tryggere å bruke i en mental helse-kontekst, deriblant foreldrekontroll og samarbeid med helsepersonell.
Også innen cybersikkerhet er KI i ferd med å bli en betydelig trussel, sier Altman.
Godt betalt
– Vi ser nå at modeller har blitt så gode på datasikkerhet at de har begynt å finne kritiske sårbarheter, skriver han i meldingen på X. En av oppgavene den nye sikkerhetssjefen får, er å finne måter å iverksette KI-drevne sikkerhetsløsninger på, uten at disse løsningene brukes til ondsinnede formål.
Selskapet innrømmer at dette er en vanskelig oppgave, og i X-innlegget sitt er Altman ærlig på at den nye jobben blir «stressende» og at kandidaten umiddelbart vil måtte kaste seg ut på dypt vann.
Kandidater som måtte søke på jobben, kan imidlertid vente seg en generøs kompensasjon. Den nye stillingen – som er publisert på Open AIs nettsider – har en lønn på solide 555.000 dollar i året, altså over 5,5 millioner kroner.
En av de konkrete oppgavene er å iverksette og videreutvikle sikkerhetsrammeverket som Open AI allerede har formulert i et eget dokument.
– Vi mener det finnes et begrenset antall KI-ferdigheter som kan utgjøre nye risikoer for alvorlig skade, heter det i dokumentet.
Open AI: Ukentlig snakker 1,2, mill. brukere om selvmord
