Kunstig intelligens har tatt verden med storm. Metodene blir stadig bedre. Nye ting skjer hver uke. Men dagens kunstige intelligens har dessverre en rekke svakheter. Det skal forskere på Integreat, et nytt senter for fremragende forskning, gjøre noe med. Senteret har hovedbasen sin på Matematisk institutt ved UiO og jobber tett sammen med forskere fra Institutt for informatikk, Institutt for medisinske basalfag, Norsk Regnesentral og Maskinlæringsgruppen på Universitetet i Tromsø.
I dag har alle de store internasjonale private selskapene, slik som gigantene Open AI, Google og Meta, eierskapet i de store kunstig intelligens-modellene. Eierskapet til de store selskapene bekymrer lederen for det nye forskningssenteret, statistikkprofessor Arnoldo Frigessi.
– For å trene dagens modeller trengs det enormt mye maskinkraft. Bare de store selskapene er i stand til å gjøre dette. Uheldigvis vet vi ikke hva som skjuler seg i modellene. Det er et stort problem for forskningen. Hvordan kan vi drive forskning når viktige forskningsmetoder holdes hemmelig? Dette har aldri skjedd tidligere, beklager Arnoldo Frigessi.
Nye algoritmer
Et av de mange problemene med dagens KI-modeller er den manglende muligheten til å skalere dem skikkelig opp.
– Dette er rett og slett umulig å få til med dagens metoder.
Forklaringen er enkel. Verden har ikke nok beregningskraft. Løsningen er å lage bedre algoritmer.
– Da er ballen tilbake i akademia. Vi trenger nye metoder og nye ideer. Det er nettopp dette vi skal gjøre i senteret vårt de neste ti årene, poengterer Frigessi og legger til:
– Vi ønsker at fremtidens KI skal bli mer pålitelig og transparent.
Transparent er et litt finere ord for gjennomsiktig. Eller forklarbar.
– Det er viktig. I dag vet vi ikke hvordan KI kommer frem til avgjørelsene sine.
Svart boks
Selv om dagens KI tilsynelatende fungerer, har den en stor svakhet. Den kan betraktes som en svart boks. Når du stiller en kunstig intelligens et spørsmål, genererer den et svar, men som oftest får du ikke noe informasjon om hvordan den har kommet frem til svaret. Også dette ønsker det nye forskningssenteret å gjøre noe med.
Og vel så viktig: I dag er det ingen som vet hvor stor usikkerheten er i svarene. Det er en stor forskjell på om en anbefaling kan gis med en sikkerhet på 50 eller 99 prosent. I dag er det lite beregning av usikkerhet.
– Så lenge jeg ikke vet hvorfor en algoritme gir meg anbefalingen A eller B, kan jeg ikke stole på den. Jeg ønsker derfor å forstå hvorfor beslutningen er tatt, samtidig som jeg vil vite usikkerheten i anbefalingen. Da må usikkerheten kvantifiseres, poengterer Frigessi.
Telenor dro inn 19,5 milliarder kroner
Energikrevende
Forskerne ønsker dessuten å finne KI-løsninger som ikke trenger like mye datakraft som i dag. Dette handler tross alt om miljøet vårt.
– I dag krever KI-modellene svært mye energi. Da snakker vi om energi både til beregningene og til datalagringen, forteller statistikkprofessor Ingrid Glad, nestlederen på det nye forskningssenteret.
En av forklaringene på at dagens KI-modeller krever mye energi, er at de må trenes opp igjen fra grunnen av hver gang de skal ta hensyn til mer informasjon.
– Ett av målene våre er derfor å lage nye algoritmer som trenger langt mindre ressurser enn i dag og som har muligheten til å bygge på eksisterende kunnskap når de skal trenes opp med nye data, poengterer Glad.
Logikk og statistikk
Et av de mange målene deres er å lage metoder som treffer bedre, er mer nøyaktige og tar bedre beslutninger.
– Vi må ha kunnskap inn i algoritmene. Ønsket vårt er at maskinlæringen skal bli forståelig og kontrollerbar.
For å komme dit skal statistikerne samarbeide tett med logikkgruppen på Institutt for informatikk ved UiO.
– Logikerne der er eksperter på kunnskapsrepresentasjon, relasjoner og hierarkier. Dette er noe helt annet enn det vi statistikere kan.
Selv om både logikk og statistikk er ulike retninger innenfor matematikk, er fagfeltene likevel så forskjellige at forskerne fra de to feltene har brukt et par år på å skjønne hverandre og finne et felles språk som begge forstår.
– Vi bruker ulike språk og ulike konsepter. Bare det å oversette begreper på tvers av fagfeltene var vanskelig i begynnelsen. Logikerne driver med deduksjon (logiske slutninger), mens vi driver med inferens (der man gjør konklusjoner om en populasjon ut ifra et utvalg). Dette er fundamentalt forskjellige måter å tenke på, forklarer Glad.
En av de mange utfordringene er hvordan de ulike fagfeltene håndterer inkonsistens i data.
– Statistikere og logikere håndterer selvmotsigende opplysninger på svært forskjellige måter. Det vi har til felles, er koblingen mot maskinlæring, sier Glad og legger til:
– Vi statistikere har jobbet med skjevheter og kvantifisering av usikkerheter i alle år. Det er ikke mye av dette i dagens KI.
I dag dreier KI seg i stor grad om tekst og bilder, noe det er enormt mye av på nettet.
– Vi skal eksempelvis jobbe med tabelldata på problemer som det ikke finnes mye av på nett. Hvis vi klarer å lage metoder som ikke er så datatunge og som håndterer dårlige eller manglende data, vil vi kunne lage AI-systemer som kan brukes i mange flere felt enn i dag, sier Glad.
Medier: Open AI og Microsoft bygger ekstrem KI-superdatamaskin til over tusen milliarder kroner
Om ti år
Det nye forskningssenteret deres, Integreat, får 155 millioner kroner i støtte fra Forskningsrådet de neste ti årene.
– Hva kan samfunnet bruke KI-metodene deres til om ti år?
– Det blir omtrent som å spørre på 1800-tallet hva elektrisiteten skulle brukes til. I starten ble elektrisiteten brukt i industrien. Etter hvert kom man på den gode ideen å lyse opp byene. Maskinlæringen er litt som elektrisiteten. Vi lager generiske metoder, uavhengig av om metoden skal brukes til A, B elle C. Maskinlæring er som statistikk og matematikk og kan brukes til alt, understreker Frigessi.
– Kan du likevel komme med noen eksempler?
– Verden går ikke i rett retning. Jeg vil endre verden. Jeg håper KI kan bedre både helse og utdanning globalt, men jobben vår er ikke å løse konkrete oppgaver. Vi skal lage maskinlæring som både er bærekraftig, transparent, kontrollerbar og som gir et rett bilde av usikkerheten. Når vi ser et problem i genetikkens verden, skal vi abstrahere problemet til et høyere nivå og løse det matematisk. Da kan vi bruke den samme metoden til å løse andre problemer. Det er viktig for oss.
Da Frigessi for noen år siden publiserte en helt ny metode inspirert av et intrikat problem fra forsikringsbransjen, ble metoden brukt to og et halvt tusen ganger til å løse alle mulige andre problemer innen både industri og vitenskap.
Personlig KI-assistent
– I dag brukes kunstig intelligens til å lage kjemiske komponenter i medisiner. Før i tiden tok det mange år før kjemikere og farmasøyter klarte å designe en komponent. Med KI kan det ta noen dager. Det gjør det mulig å lage medisiner mye raskere enn i dag. Det er en enorm forbedring, sier Frigessi og legger til:
– KI kan brukes til å identifisere hvilke medisiner og vaksinasjoner som er best for deg. Dette er persontilpasset medisin.
Men det er et stort men!
– Hva som er best for deg, kan variere fra situasjon til situasjon. Hvis det haster å bli frisk, kan du kanskje akseptere hodepine hver kveld. Hvis du ikke har det så travelt, foretrekker du kanskje en behandling som tar lengre tid, men som ikke gir deg hodepine.
Dette kommer til å endre legeyrket.
– I fremtiden vil vi alle ha vår egen personlige KI-algoritme som representerer ønskene våre. Da kan legene få hjelp av algoritmen til å finne den beste behandlingen til hver av oss.
Eller for å si det på en annen måte:
– Det er viktig å ta pasientautonomien på alvor. Pasienten er det svake leddet. Algoritmene skal brukes slik at du selv kan bestemme over din egen behandling. Persontilpasset behandling betyr at algoritmene vil kunne gi forskjellige anbefalinger til pasienter avhengig av deres individuelle behov. Hvis KI brukes på rett måte, kan den bli en viktig del av behandlingen. I fremtiden vil legene ha med KI-eksperter på pasientsamtalene, akkurat som at statistikere og informatikere samarbeider med kreftleger i dag, sier Arnoldo Frigessi.
Han ser for seg en rekke nye profesjoner. Leger som lærer seg litt KI og KI-eksperter som lærer seg litt medisin.
– Noen av de gamle profesjonene kommer til å forsvinne.
Persontilpasset undervisning
Kunstig intelligens vil også endre undervisningen. Frigessi ser for seg KI-personifiserte assistenter til studenter.
– I dag må alle universitetsstudentene på samme kurs løse de samme oppgavene. Med fremtidens KI vil det bli mulig for studentene å få et persontilpasset studium som er optimalt for dem. Studentene vil med andre ord få en egen algoritme som sier hvilke oppgaver de skal løse, forteller Frigessi.
Men alle disse anvendelsene er bare Frigessis tanker for å glede leserne. Både Frigessi og Glad er klinkende klare på at målet med forskningssenteret deres er å jobbe generelt med nye maskinlæringsmetoder.
– Vi trenger å utvikle og forbedre metodene for å kunne hevde oss internasjonalt. Det er mange KI-sentre rundt omkring i verden, men etter det vi vet, er vi et av de første sentrene som kobler de tre fagfeltene statistikk, logikk og maskinlæring sammen. Med gode metoder kan Norge hevde seg internasjonalt innen KI, slår Glad fast.
Artikkelen ble først publisert i Apollon
Møtet med KI kan fort bli dramatisk
