OpenAIs nye modell lar deg lage superrealistiskvideomed kun tekst – men de tør ikke lansere den ennå

Konkurransen på KI-feltet tiltar stadig i styrke, og OpenAI har tilsynelatende trappet opp innsatsen for å befeste posisjonen sin på markedet.

Nå har OpenAI kunngjort enda en nyhet, og denne gangen dreier det seg om et verktøy som i alle fall på overflaten er temmelig imponerende.

Svært realistiske videoer fra kun tekst

«Sora» er navnet på en ny modell som lar deg lage videosnutter kun ved hjelp av tekstbaserte instrukser. Ifølge selskapet er modellen i stand til å konstruere 60-sekunders videoer med svært høy grad av visuell detaljrikdom og realisme.

OpenAI har lagt ut et en rekke eksempelvideoer på modellens egen hjemmeside, og disse er svært vanskelige å skille fra ekte vare.

Videosnuttene byr på både avanserte kamerabevegelser, ulike kameravinkler, naturtro personer som er i stand til å uttrykke følelser, og meget detaljerte omgivelser som kunne vært tatt rett ut av et TV-program.

Selskapet har også lagt ved selve tekstinstruksene som ble brukt til å generere videosnuttene. OpenAI bedyrer at samtlige av eksempelvideoene er laget med Sora direkte, uten noen former for modifikasjoner.

Ifølge OpenAI forstår Sora ikke bare hva brukeren ber om i tekstinstruksene, men også hvordan alle objektene i videoen faktisk oppfører seg i den fysiske verdenen.

I tillegg til å generere video fra kun tekst, kan modellen også lage videosnutter fra et eksisterende stillbilde, hvor alle elementene i bildet animeres presist og detaljert, sier selskapet. Modellen kan også brukes til å forlenge/utvide eksisterende videoer, eller fylle inn manglende bilder.

Bekymret for sikkerheten

Det er ikke spesielt vanskelig å forestille seg at teknologien som den nye Sora-modellen representerer kan misbrukes til en lang rekke ondsinnede formål, og akkurat dette har OpenAI tatt konsekvensen av.

Modellen er så langt kun tilgjengelig for utvalgte testere, deriblant eksperter på desinformasjon, hatefullt innhold, og skjevheter i fremstillingen av informasjon – det som gjerne kalles «bias» på engelsk.

Testerne skal ifølge OpenAI blant annet vurdere modellens potensiale for skade og risiko. Selskapet sier at de også er i ferd med å utvikle verktøy som fanger opp villedende innhold, og som opplyser hvorvidt videoen er laget med Sora-modellen.

Sora vil også benytte de samme sikkerhetssystemene som allerede er bygget inn i øvrige OpenAI-produkter, som skal forhindre tekstinstrukser som for eksempel kan brukes til å generere «deepfake»-innhold.

OpenAI har ennå ikke bestemt seg for om Sora skal bygges inn i andre produkter og gjøres bredt tilgjengelig for allmennheten. Enn så lenge er modellen primært en demonstrasjon av hva selskapet jobber med av KI-teknologi, og en eventuelt bred lansering vil avhenge av videre vurderinger og tilbakemeldinger.

Mer informasjon kan man finne på prosjektets egen nettside, og OpenAI har også lagt ut en teknisk beskrivelse av teknologien.