Annonse
kunstig intelligens
KI-agent tok seg inn i australsk myndighetssystem
Statsminister Anthony Albanese kaller hendelsen uakseptabel.
En OpenAI-agent fikk i juni uautorisert tilgang til den australske statistikkportalen Medicare Statistics Reporting Service under intern testing.
Den fikk tilgang til både offentlige og ikke-offentlige filer.
Ifølge den australske statsministeren Anthony Albanese startet hendelsen som et internt forskningsprosjekt hos OpenAI.
En modell ble brukt til å hente inn informasjon om offentlige utgifter til medisiner. Da agenten møtte blokkeringer, forsøkte den alternative måter å få tak i informasjon på.
– Den tok ikke nei for et svar, for å si det sånn, sa Albanese under en pressekonferanse torsdag.
– Dette er åpenbart uakseptabelt.
Varslet tre måneder senere
OpenAI oppdaget hendelsen 11. august. Først 10. september varslet selskapet Services Australia, etaten som drifter Medicare-portalen.
Annonse
Meldingen ble sendt til en epostadresse som blant annet brukes av forskere til å varsle om sårbarhetet.
Det reagerer Albanese på.
– Det tok altfor lang tid før selskapet informerte regjeringen om hva som hadde skjedd. Måten varslingen skjedde på, var også uakseptabel, sa statsministeren under pressekonferansen.
Han fortalte at han har tatt opp saken direkte med OpenAI-sjef Sam Altman i en telefonsamtale.
På spørsmål om Altman hadde beklaget, svarte Albanese at OpenAI-sjefen erkjente at selskapet ikke hadde gjort en god nok jobb.
Oppretter egen gransking
Annonse
Australske myndigheter sier at det foreløpig ikke er tegn til at personopplysninger eller pasientjournaler er berørt.
OpenAI sier det samme.
Ifølge ABC News opplyser en talsperson for selskapet at det ikke er funnet tegn til at pasientjournaler ble åpnet. Informasjonen agenten fikk tilgang til, skal blant annet ha bestått av aggregerte helsestatistikker og interne filnavn.
Samtidig oppretter australske myndigheter en egen arbeidsgruppe som skal granske hendelsen.
Den skal blant annet vurdere om dagens rutiner for KI-relaterte cyberhendelser er gode nok, om saken bør meldes til politiet og om det er behov for endringer i lovverket.
