KI-assistent skal spare tid og penger – men å droppe Microsoft har en pris

Den driftes i Danmark. Den koster bare 22 kroner per ansatt i året, langt mindre enn andre KI-assistenter, og håpet er at den kan spare 20 minutter i uken for 5000 ansatte i Aarhus kommune. Det tilsvarer 45 årsverk i året.

OS2ai driftes på DTUs superdatamaskin Computerome på Risø Campus, og er både en komplett KI-assistent og et valg om å droppe de amerikanske teknologigigantene som Microsoft og Google, som dominerer markedet for de mest brukte KI-produktene.

Men det koster på ett bestemt område å si nei til de amerikanske selskapene.

Den har ikke innebygd såkalt agentics – funksjonalitet der generativ KI kan operere på tvers av brukerens data og systemer.

Det forteller Bo Fristed, leder for ITK, Aarhus kommunes avdeling for innovasjon, teknologi og kreativitet. Han er også styreleder i OS2-foreningen, som utvikler åpen kildekode-løsninger for offentlig sektor.

– Det er et bevisst valg i første omgang at agentics ikke er i OS2ai. Det skyldes blant annet at det krever tilgang til personlige data, sier Bo Fristed.

Agentics-funksjoner gjør det mulig for KI å hente informasjon fra epost, dokumenter og kalendere, og i noen tilfeller selv foreslå handlinger eller utføre små oppgaver. Nettopp dette er funksjoner som Microsofts Copilot og Open AIs Chat GPT tilbyr.

Fristed forklarer at dett handler om å prioritere sikkerhet fremfor funksjonalitet.

– Vi ønsker ikke å gi KI-en tilgang til data som kan være personfølsomme eller konfidensielle før vi har etablert de nødvendige tekniske løsningene rundt plattformen. Derfor følger vi et føre-var-prinsipp før vi eventuelt innfører det senere, sier han.

Kan koste på effektiviteten

OS2ai kan brukes til å finne kunnskap, inspirasjon eller lage utkast til en disposisjon eller rapport, eller for eksempel strukturere et notat – på samme måte som man normalt bruker en kommersiell KI-løsning.

I tillegg til de vanlige KI-funksjonene gir plattformen mulighet til å lage skreddersydde GPT-er, for eksempel en spesialistbot for byggeregler eller en søkefunksjon for interne dokumenter, trent på spesifikke data, slik at den kan svare på mer spesialiserte spørsmål. Med slike spesialistboter er håpet at kommunens ansatte kan få raskere svar og dermed svare innbyggerne raskere.

Men fraværet av agentics gjør at OS2ai i større grad fungerer som et lukket verktøy fremfor en fullt integrert arbeidsassistent. Det vil ha betydning for enkelte grupper ansatte.

– Det vil fortsatt være ansatte hvis oppgaver ikke dekkes av OS2ai, fordi funksjonaliteten er mer avgrenset. Plattformen vår er altså ikke en 1:1-kopi av Copilot eller Chat GPT, sier han.

Fristed erkjenner at dette begrenser bruken av plattformen inntil agentics blir innført. Han sier at de bevisst ligger litt etter den nyeste utviklingen, og at de kan leve med det fordi de prioriterer sikkerhet og en god brukeropplevelse fremfor å ha tilgang til de aller nyeste funksjonene.

Et rimelig alternativ

Prisen er et av plattformens sterkeste kort. Mens Copilot koster 200 kroner per ansatt i måneden, og Chat GPT koster 169 kroner i måneden, koster OS2ai bare 22 kroner per ansatt i året.

At den er billigere skyldes først og fremst at de slipper å betale for lisenser og kun har utgifter til utvikling og drift.

– Det er en litt annen funksjonalitet vi gir tilgang til, men det er også en langt rimeligere løsning. Hvis vi skulle hatt en avtale med Copilot, ville det ikke vært innenfor budsjettet vårt, sier Bo Fristed.

Interesse fra inn- og utland

Avtalen med DTUs superdatamaskin Computerome på Risø Campus gjelder bare for ett år. Det skyldes at Fristed mener kapasiteten på sikt må oppgraderes, ettersom interessen for prosjektet er stor både i Danmark og internasjonalt.

– Vi hadde nettopp 84 kommunale representanter på besøk på fredag, og vi har flere møter fremover. Det er veldig stor interesse.

Andre kommuner, regioner og direktorater kan relativt enkelt ta i bruk løsningen, ettersom de får en kopi av OS2ai som tilpasses deres lovverk og organisasjon. Derfra kan de bruke de samme spesialistene og funksjonene som Aarhus kommune.

Interessen kommer ikke bare fra danske kommuner. Også utlandet viser interesse. Aarhus kommune har sammen med Foreningen av nederlandske kommuner (VNG) sendt inn en søknad om EU-støtte til generativ KI i offentlig sektor.

– Vi deltar i et konsortium med VNG, som tilsvarer Kommunenes Sentralforbund. Sammen sender vi i oktober inn en søknad der vårt bidrag er å løfte OS2ai-plattformen opp til en felles europeisk standard, sier Bo Fristed.

Med søknaden håper han at OS2ai kan bidra til å bane vei for en dansk-europeisk KI-virkelighet.

Artikkelen ble først publisert Version 2 for deres abonnenter. Den er tilgjengelig for Digis abonnenter gjennom vår samarbeidsavtale.