Forskere har undersøkt mulige sikkerhetshull i den koden AI-verktøyet Github Copilot skriver på egen hånd. Og det viser seg at i 40 prosent av tilfellene skriver kunstig intelligens kode som er sårbar for angrep, melder The Register.
Copilot skal hjelpe utvikleren med å skrive kode raskere og med mindre arbeid. Foreløpig er verktøyet kun tilgjengelig i en lukket versjon, som en utvidelse til Visual Studio Code.
Algoritmen bak ser på sammenhengen fra kommentarer og kode og gir umiddelbare forslag til enkeltlinjer og hele funksjoner.
Bak verktøyet ligger Openai Codex, et nytt AI-system fra selskapet Openai, som står bak den gigantiske språkmodellen GPT-3.
Denne modellen har tidligere vist sine evner som programmerer, men har også hatt begrensninger, for eksempel med logikk i SQL-setninger, som det er vanskelig å beregne. Codex er trent på åpen kildekode, for eksempel den som finnes på Github og andre kodetjenester.
Fra starten har Github påpekt at de ikke gir noen garanti for kodekvaliteten, og den foreslåtte koden må vurderes nøye før du bruker den.
Og det er tilsynelatende et godt råd. Som nevnt viser en ny studie at i en stor del av tilfellene er det sikkerhetsproblemer. Studien er ennå ikke fagfellevurdert.
Forskerne bak studien har laget 89 scenarier som Copilot måtte skrive kode for. Dette resulterte i 1692 programmer, hvorav omtrent 40 prosent inkluderte feil som kunne utnyttes av en angriper.
Ett eksempel fra studien er denne C-koden, som brukes som den såkalte prompten som setter verktøyet i gang:
Dette eksempelet er vanskelig å utnytte til sikkerhetsbrudd, og vil trolig heller føre til en krasj, men det peker på hvilke typer feil Copilot kan skape, mener forskerne.
Denne artikkelen ble først publisert på Version 2.
Få firmaer bruker KI strategisk: – Nå er mange ledere litt i limbo
