Kunstig intelligens blir stadig viktigere, men domineres fullstendig av USA og Kina. Å overlate feltet til fremmede makter og store firmaer kan virke risikabelt. Den siste tida har vist oss europeere at vi ikke kan stole på noen andre enn oss selv.
Det er også betenkelig at vi egentlig ikke skjønner helt hvordan den kunstige intelligensen virker i dag, mener den norske professoren Harald Martens. Det er som om vi putter data inn i en svart boks, og så popper det ut et svar. Hvorfor? Vet ikke helt.
Selv Anthropic-sjef Dario Amodei har vært inne på det samme. «Denne mangelen på forståelse er i stor grad uten sidestykke i teknologiens historie», skrev han i fjor.
Martens sier at Europa bør gå en annen vei, som gir tryggere, mer kostnadseffektive og mer forståelige KI-løsninger.
Dagens KI ikke bra nok i alle sammenhenger
– Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere, og vi forstår ikke alltid hvordan de kommer fram til resultatene. Det kan være et problem når KI skal brukes i kritiske situasjoner, sier Martens.
I over 50 år har professor Martens jobbet med tolkbar, minimalistisk og virkelighetsnær datamodellering, basert på maskinlæringsmetoder utviklet og i bruk i andre fagfelt enn Computer Science, uten nevralnett.
I dag er han professor emeritus, fremdeles tilknyttet NTNU, samtidig som han jobber med teknisk kunstig intelligens i Trondheim-firmaet Idletechs. Nå advarer han mot utviklingen innen moderne kunstig intelligens.
– Vi må ha sikrere problemløsing, mindre energiforbruk og mindre «svart boks». Samtidig må vi forstå mer av det som skjer inne i boksen. Vi må i tillegg lære stadig mer om verden vi lever i og systemet vi jobber med. Og det hele må ligge under demokratisk kontroll, basert på våre vest-europeiske verdier.
Martens mener det er fullt mulig.
EU-kommisjonen la for et år siden fram en handlingsplan med samme mål. – Det vil gi konkrete fordeler for våre innbyggere og bedrifter at vi har KI som man kan stole på, sa EU-kommissær Henna Virkkunen da.
Idletechs
- Selskapet Idletechs har hovedsaklig røtter i forskningen ved Nofima/NMBU på Ås og ved NTNU.
- Det leverer blant annet stordata CIM-ML løsninger til norsk og utenlandsk prosessindustri. Dette gir dem bedre innsikt i hva som hele tiden skjer inni og rundt deres komplekse maskiner og utstyr.
- Fremgangsmåten er basert på moderne, praktiske måleteknikker som for eksempel kontinuerlig termisk video.
- Selskapet utvikler også løsninger for kompresjon, tolkning og bruk av massive strømmer av drone- og satellittbaserte mangekanals bilder. Søsterselskaper er etablert i Danmarks og Sveits.
En KI vi kan stole mer på
I dag domineres altså KI-feltet av store, datasultne nevrale nettverk. De såkalte «black box»-modellene er tilsynelatende enkle å ta i bruk, men de må trenes på enorme datamengder. Denne maskinlæringen er energikrevende, og løsningene er vanskelige å tolke og kritisere.
Martens og hans samarbeidspartnere har utviklet et alternativ de kaller CIM-ML, eller «Continuous, Interpretable, Minimalistic Machine Learning». Så hva er nå det?
I stedet for å mate systemet med flest mulige data og håpe på det beste, kan maskinlæringen starte med dagens forståelse av systemet som skal beskrives, og av måleteknikkene som skal brukes.
Deretter går maskinlæringen mer eller mindre automatisk, ut fra strømmen av moderne måledata: Enklest mulig løsning, men ikke enklere. Komprimert og grafisk tolkbar.
– Vi bruker gjerne lengre tid på grunnarbeidet, for å kombinere domene-kunnskap og moderne måledata. Dermed får vi modeller som kan forklare seg, sier han.
CIM-ML er selvlærende, selvutvidende og selvkorrigerende, og beskriver både kjente og ukjente data-variasjoner. Det kan håndtere store datastrømmer på små datamaskiner.
– I en tid der algoritmer påvirker stadig flere beslutninger, blir kanskje det viktigste spørsmålet ikke hvor raske systemene er, men om vi kan stole på dem, mener Martens.
Da gjelder det å kombinere moderne måledata og tolkbar matematikk.
For systemer som ikke skal ha feil
Metoden er foreløpig rettet mot middels komplekse systemer, ikke for eksempel Chat GPT eller Deepseeks enorme språkmodeller. Der er det uansett ofte mer rom for feil.
CIM-ML er særlig rettet mot profesjonell bruk i for eksempel prosessindustri og andre tekniske systemer. Dessuten i drone- og satelittbasert miljøovervåking og jordobservasjon med mer.
Eksempler er:
- Vibrasjonssensorer på en turbin, for å skille lyd, ulyd,og målestøy før det går galt.
- Termisk videoovervåkning av en smelteovn eller en motor, for oversikt og optimering.
- Mangekanals drone- eller satellittfotografering av hav og land, for bestemmelse av flest mulig observerbare fenomener, deriblant spektral fjerning av skyggeproblemer.
Her handler det altså ikke bare om å få et pålitelig svar, men også om å forstå hvordan – helst også hvorfor – du fikk akkurat det svaret.
I kritiske anvendelser er det viktig å få tidlige varsler, uten mange falske alarmer. Og det er avgjørende at menneskene som bruker systemet, skjønner hva som skjer, sier Martens.
Europeisk vei i KI-kappløpet?
Debatten om KI handler ofte om hvem som har de største modellene og mest data. Men Europa kan altså satse på en annen vei.
Spørsmålet er om Europa vil satse på en mer uavhengig og transparent teknologi. Eller skal vi forbli avhengige av globale teknologigiganter som opererer etter tilfeldige forbipasserende statslederes luner?
– Den kunstige intelligensen vi utvikler, er forankret i en stolt vest-europeisk, demokratisk opplysningstradisjon. Min drøm for Idletechs har vært å etablere høyteknologiske arbeidsplasser i Norge og Europa. Disse må være basert på en sikker, enkel, etisk og forståelig maskinlæring som også gir menneskelæring, sier Martens.
Artikkelen ble først publisert på Gemini.no
KI-pioneren Yann LeCun: – Språkmodeller vil ikke føre til intelligens på menneskelig nivå
