Det tok flere dager før Open AI skjønte at deres egen agent sto bak angrepet, opplyser kilder til nyhetsbyrået Reuters.
Agenten forsøkte å bryte ut av sitt isolerte testmiljø hos Open AI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, ifølge Thomas Wolf, medgründer av Hugging Face.
De to selskapene kommuniserte for første gang om dataangrepet rundt 20. juli, ifølge Wolf og tre personer med kjennskap til etterforskningen.
Open AIs tap av kontroll over KI-agenten reiser spørsmål om selskapets sikkerhetsprosedyrer, mener eksperter på cybersikkerhet.
– Betyr det at de lot den operere uten tilsyn og ikke visste hva den gjorde? Eller visste de kanskje det, men visste ikke hvordan de skulle stoppe den? Begge deler er like farlig og urovekkende, sier ledende etterretningsspesialist Marley Smith ved World Ethical Data Foundation til Reuters.
Skal publisere rapport
Open AI sier angrepet var enestående og at det «markerer et viktig øyeblikk for KI-sikkerhet». Selskapet gjennomgår hendelsen og vil publisere en teknisk rapport.
Marius Sandbu, som er spesialist på KI og skyteknologi i Sopra Steria, mener det er langt fra siste gang vi kommer til å se et semiautomatisk angrep fra en KI-modell.
– Selv om angrepet kanskje ikke nødvendigvis var teknisk avansert, og kunne blitt avverget med enkle basis sikkerhetsfunksjoner, blir man litt skeptisk når de store KI-leverandørene som Open AI ikke har kontroll på egen infrastruktur og tjenester, sa Sandbu til Digi tidligere denne uken da angrepet ble kjent.