Sabotasje: Praktikant plantet ondsinnet kode i KI-modeller

Dette skriver Ars Technica, som refererer til en post på kinesiske sosiale medier, som Bytedance har publisert om hendelsen.

Det er uvisst hva som var praktikantens motivasjon for handlingene, men vedkommende skal ha kostet selskapet flere titalls millioner dollar, heter det. Opptil 8000 GPUer skal ha vært involvert i KI-treningen som ble sabotert.

Bytedance selv uttaler at disse tallene er «betydelig overdrevet» men oppgir ikke hva de mener er korrekte tall.

Fjernet kode

Hendelsen ble avdekket gjennom en intern etterforskning som ble igangsatt da mistenkelige kodeendringer ble oppdaget i selskapets KI-systemer. Bytedance har forsikret at den ondsinnede koden ble fjernet, og det skal ikke være indikasjoner på at kodeendringene har påvirket brukerne eller selskapets tjenester.

Praktikanten skal ha arbeidet på et forskningsprosjekt for Bytedance.

Den tidligere ansatte, som jobbet som utviklerpraktikant, utnyttet sin tilgang til selskapets utviklingsmiljøer for å modifisere kode i flere KI-modeller. Bytedance har opplyst at selskapets sikkerhetsmekanismer for kildekodekontroll var avgjørende for å oppdage de uautoriserte endringene, noe som satte dem i stand til å reagere raskt for å begrense risikoen.

Det er fortsatt uklart hvilket skadepotensiale den ondsinnede koden kunne ha hatt, da Bytedance ikke har gitt detaljer om dens virkemåte.

Isolert sak

Etter hendelsen har Bytedance innført strengere sikkerhetstiltak for å forhindre lignende sikkerhetsbrudd i fremtiden. Selskapet har skjerpet prosedyrene for koderes kontroll og innført mer omfattende retningslinjer for tilgangskontroll. I tillegg har selskapets sikkerhetsteam fått utvidede ressurser for å overvåke utviklingsprosesser og raskt identifisere avvik i kildekoden.

Bytedance understreker at hendelsen anses som en isolert sak, og selskapet jobber nå med å forbedre sine interne rutiner for å sikre at slike brudd ikke skjer igjen. Det er blitt gjennomført en grundig gjennomgang av sikkerhetsprotokoller, og selskapet planlegger å videreutvikle sine teknologiske løsninger for å styrke sikkerheten rundt KI-utvikling.

Til tross for at Bytedance tidligere har stått overfor utfordringer knyttet til datasikkerhet, legger selskapet vekt på at det prioriterer integriteten i utviklingen av KI-teknologi. Bytedance har bekreftet at det vil fortsette å investere i sikkerhetstiltak og opplæring for ansatte, slik at selskapet bedre kan forsvare seg mot interne og eksterne trusler.

For sent ute?

Bytedance har lenge vært kjent for sine sosiale medier og eierskap i spillselskaper, men selskapet har ifølge Bloomberg vært tregere enn konkurrenter som Google og Microsoft med å satse tungt på kunstig intelligens.

For å ta igjen det tapte, har Bytedance nå intensivert sin KI-satsing ved å investere betydelige ressurser i forskning og utvikling, samt oppkjøp av teknologiselskaper som kan styrke deres KI-kompetanse.

Selskapet har også økt rekrutteringen av eksperter innen maskinlæring og naturlig språkprosessering, samt lansert nye initiativer for å integrere KI i eksisterende produkter som Tiktok og spillutvikling.

Om dette gir Bytedance en realistisk mulighet til å hente inn det forspranget andre selskaper har opparbeidet innen KI-teknologi og dermed posisjonere seg for videre vekst i markedet, er usikkert og gjenstår å se.