Debatt

Ikke glem menneskene!

I år forventes det at den innledende entusiasmen for kunstig intelligens i sikkerhetsbransjen vil modnes. Rett og slett fordi bevisstheten om potensielle fallgruver og utfordringer øker. Det er en fare for at adopsjonshastigheten overgår evnen til å gjennomføre grundige sikkerhetsvurderinger.

Jesper Olsen er sikkerhetsdirektør for Nord-Europa i Palo Alto Networks. Han mener det er en fare for at kunstig intelligens gjør analytikere mindre dyktige til å håndtere komplekse eller uvanlige situasjoner som i utgangspunktet krever dyp forståelse og kritisk tenkning.
Jesper Olsen er sikkerhetsdirektør for Nord-Europa i Palo Alto Networks. Han mener det er en fare for at kunstig intelligens gjør analytikere mindre dyktige til å håndtere komplekse eller uvanlige situasjoner som i utgangspunktet krever dyp forståelse og kritisk tenkning. Foto: Pressefoto
Jesper Olsen, sikkerhetsdirektør for Nord-Europa i Palo Alto Networks
24. jan. 2024 - 12:13

Dette debattinnlegget gir uttrykk for skribentens meninger. Innlegg kan sendes til debatt@digi.no.

På den positive siden har kunstig intelligens et enormt potensial til å endre tilnærmingen til cybersikkerhet. Chat GPT-lignende grensesnitt kan for eksempel gi raskere og mer nøyaktige svar på trusler og sårbarheter. Resultatet er en mer integrert og enhetlig forståelse av trusselbildet. I tillegg kan KI-drevet forebygging, deteksjon og respons bidra til å lukke sårbarhetsvinduer med en hastighet som for kort tid siden var umulig.

Samtidig er det en reell fare for at det overses viktige detaljer i dataene eller datamodellene i iveren etter å implementere kunstig intelligens. Hvilket kan skape sikkerhetsbrudd og få andre alvorlige konsekvenser. Dersom en bedrift ikke utfører tilstrekkelig kvalitetssikring, kan det føre til at viktige sikkerhetsaspekter som SSL-dekryptering overses. Hvilket igjen understreker behovet for en balansert tilnærming hvor kunstig intelligens kombineres med grundige kvalitetskontroller og en menneskelig hånd.   

Kan overta sikkerhetsroller

Det hersker ingen tvil om at kunstig intelligens på lengre sikt kan overta komplekse sikkerhetsroller. Noe som betyr en fundamental endring. Samtidig reiser dette spørsmål om hvordan den menneskelige ekspertisen bevares og videreutvikles i en stadig mer digital verden. Faren er at kunstig intelligens gjør analytikere mindre dyktige til å håndtere komplekse eller uvanlige situasjoner som i utgangspunktet krever dyp forståelse og ikke minst kritisk tenkning.

Nettopp derfor er det ekstremt viktig å opprettholde den menneskelige ekspertisen. For eksempel i form av kontinuerlig opplæring, utvikling av beredskapsplaner og etableringen av prosesser for å sikre at kunstig intelligens komplementerer, og ikke erstatter, menneskelig dømmekraft og ekspertise.

I flere tilfeller har vi sett at kunstig intelligens har fordommer som slår negativt ut for kvinner. Det kreves god kompetanse for å trene modellene riktig, og derfor må KI-kompetanse inn i hele utdanningsløpet, skriver statsrådene Sigrun Aasland og Karianne Tung.
Debatt

Vi må kreve åpenhet om KI-modeller

Optimisme og forsiktighet

Ved å kombinere de transformative fordelene med en grundig forståelse av mulig risiko og utfordringer, kan bedrifter sikre at teknologien utnyttes på en måte som maksimerer fordelene samtidig som det beskytter mot potensielle fallgruver.

Vi ser allerede at kunstig intelligens spiller en stor rolle innen utviklingen av den digitale sikkerheten, og vi ser fremover med optimisme og forsiktighet. Vi må både utnytte potensialet til den nye teknologien og samtidig beskytte oss mot dens skjulte farer.

La oss derfor møte året med åpne øyne, klare til å utnytte mulighetene som kunstig intelligens bringer. Det samtidig som vi er bevisste på å bevare den menneskelige faktoren som er helt avgjørende. Fremtiden formes tross alt av valgene vi tar nå.

Joseph Gordon-Levitt, som er skuespiller, produsent og grunnlegger av Hitrecord, tok til orde for regulering av tekgigantene under Internet Governance Forum.
Les også:

I strupen på Meta: – De kan ikke prioritere hva som er bra for verden

Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.