Hvordan skal offentlig sektor forholde seg til Copilot? Det skal NTNU finne ut

I fjor lanserte Microsoft Copilot, en digital assistent basert på generativ store språkmoddeller og kunstig intelligens, inkorporert i kontorpakken til Microsoft 365.

Nå skal NTNU teste hvordan offentlige virksomheter i Norge skal forholde seg til dette.

Universitetet er nå en av tre søkere som har fått plass i Datatilsynets regulatoriske sandkasse for å teste bruk av generativ kunstig intelligens med personvern i fokus.

– Nå kommer den integrerte generative kunstige intelligensen for fullt, sier senioringeniør Eirik Gulbrandsen, som har ledet opptakskomiteen.

Det vil si at generativ kunstig intelligens vil bli innebygget i plattformer og programmer folk ellers bruker.

Prosjektet med NTNU er ment å ha stor overføringsverdi. Når det er ferdig til sommeren, skal det gi noen svar på hvordan offentlige virksomheter bør forholde seg til både den mye omtalte plattformen og generativ kunstig intelligens generelt.

For å avgrense prosjektet vil de undersøke Microsofts Copilot spesifikt.

– Bakgrunnen for det er at det er voldsomt mye fokus på det, og at det er en plattform som mange virksomheter vil benytte, sier Gulbrandsen.

– Må henge med

– Vi er som alle andre truffet av KI-bølgen og må henge med for å være en tidsriktig utdanningsinstitusjon, sier IT-direktør Håkon Alstad ved NTNU.

Han peker på tre bruksområder for universitetet:

Det ene er at studenter må få tilgang til verktøyene de etterhvert skal bruke i arbeidslivet.

Det vil også revolusjonere forskningen: Forskere behandler veldig mye data, både tall og tekst. KI-verktøy vil forenkle og gjøre at de kan utvikle forskninga si.

I tillegg kan det brukes innenfor administrasjon og økonomi, og til å lage utdanningsmateriell.

– Integrerte løsninger langt mer omfattende

– KI-produktene til Microsoft er veldig interessante, spesielt når det kommer inn i sluttbrukerprodukter som World, Excel og Power BI.

Dette er ikke lansert innenfor universitetets lisenser ennå, men de ønsker å teste det så fort som mulig, forteller han.

– Det betinger at den blir lansert og at vi kommer fram til en økonomisk forsvarlig måte å anskaffe dem på. Vi er i god dialog med Microsoft Norge og Crayon for å få det tilgjengelig for testing når det blir lansert.

De nye KI-produktene integrert i slike verktøy innebærer en langt mer omfattende måte å bruke kunstig intelligens på sammenlignet med en ren samtalerobot, understreker han.

– Det gir enorme muligheter. Men du kan ikke gi fra deg sensitive data inn i en sånn robot heller. Så vi ønsket å utnytte mulighetene for å få bistand fra eksperter, sier Alstad.

Kan bli kostbart

Universitetet har i dag tilgjengeliggjort Bing copilot for ansatte, og planlegger å gjøre den tilgjengelig også for studenter.

– Mange har allerede tatt i bruk Chat GPT, studentene bruker det sikkert i massevis. Men den store utfordringen for oss er at vi ikke avleverer sensitive data inn i verktøyet. Bing copilot tar ikke vare på brukerdialogen slik Chat GPT gjør.

Det er også andre utfordringer med å ta i bruk Copilot enn det som har med sikkerhet og personvern å gjøre, påpeker Alstad.

– Det er en utfordring med de nye KI-teknologiene er at de kommer til å danne et helt annet prisnivå enn det teknologi tradisjonelt har hatt, sier han, og utdyper:

– Når Copilot blir lansert vil vi ikke kunne tilby det til alle sammen, da det skal koste 30 dollar per måned per ansatt. Eventuelle education-lisenser kan gjøre det rimeligere enn det næringslivet betaler, men dette er fortsatt oppe i lufta.

Vil gjøre offentlig sektor Copilot-klare

Tradisjonelle kontorstøtteplattformer samler i hovedsak inn meta-informasjon om hvordan tjenesten brukes, mens Copilot som personlig digital assistent vil i sin natur samle inn mye personlige opplysninger fra virksomhetens interne systemer, påpeker Eirik Gulbrandsen i Datatilsynet.

Mye av prosjektet vil dreie seg om å undersøke hva Microsoft faktisk samler inn og hva de tar vare på. Datatilsynet vil legge til rette for å oppdrive kunnskap for at virksomheter kan bli «Copilot-ready».

Virksomhetene må selv ha et aktivt og ansvarlig forhold til egen dataforvaltning, påpeker tilsynet. Kunnskap om dette gir også muligheten til å påvirke leverandører til å tenke operasjonelt personvern tidlig i utvikling av nye tjenester hvor kunstig intelligens benyttes.

– Det vi håper å få ut av det, er å kunne gi en generell veiledning til alle offentlige virksomheter. Vi er opptatt av både leverandørens informasjonsansvar relatert til KI-løsninger overfor konsumenter og virksomhetens egen bestiller-kompetanse – tjenesteleverandøren og virksomhetene har et felles ansvar for å skjønne teknologien de tar i bruk, sier Gulbrandsen.