Dansk deeptech-oppstart bygger ny type AI etter andelstankegangen

Når den danske oppstartsbedriften Abzu neste år lanserer selskapets SaaS-plattform, er det med ambisjoneer om å tilby AI til bedrifter som ellers har for lite data til å dra fordeler ut av potensialet i dyp læring (deep learning).

– Vi har en visjon om å demokratisere denne teknologien, forteller Casper Wilstrup, som er grunnlegger og direktør i Abzu.

Når Amazon i dag er i ferd med å utkonkurrere alle mindre webshops, er det på ryggen av enormt store konsoliderte datamengder. Dette gjør dem gode til å forutsi etterspørsel, prissette og foreta målrettet markedsføring, forklarer han.

– Hvis mindre netthandlere vil konkurrere med Amazon, kan de potensielt gå sammen og lage en andels-organisasjon hvor de samler data og går sammen om å bygge maskinlæring (ML), sier Casper Wilstrup:

– Det er nok ikke så realistisk. Men Abzus teknologi kan løse dette problemet.

Ideen med Abzus plattform er å bygge en AI som lærer hver gang den introduseres for nye data. Det er dermed ikke bare dataene til én kunde som avgjør kvaliteten av en prediktiv modell, men den samlede tilgjengelige kunnskapen i de dataene som Abzu har sett.

Teknikken gjør det mulig for to konkurrerende selskaper å dele læringen fra dataene sine for å forbedre hver sine ML-modeller. Og derfor er sammenligningen med andelstanken passende, sier Casper Wilstrup:

– Hele ideen er at du deler læring. Det er litt som å dele en ansatt. Han forteller ikke noe om hva som foregår i firma A når han jobber i firma B. Men den erfaringen han har, tar han med seg overalt. Og det må da være greit for alle.

Abzu-hjernen

Kjernen i plattformen ligger i Abzus såkalte metahjerne – en enormt stor metagraf som kjører på et datamaskin-cluster bygd i Tyskland.

– Se for deg at alle de konseptene som metagrafen noensinne har lært noe om, lever som noder i grafen, forklarer Casper Wilstrup.

Alle disse konseptene kan henge sammen på utallige måter, noe som er uttrykt i korrelasjoner i grafen. Abzu samler ikke dataene på noe sentralt sted. I stedet foregår selve treningen vanligvis ute hos kunden, og bare metadata om læringen sendes tilbake til Abzu-hjernen.

Tilgangen løser to av de store utfordringene som Casper Wilstrup ser med dyp læring i dag: behovet for å ha mye data og behovet for å konsolidere data ett sted.

– Vi får aldri kundens data, og vi ser aldri de dataene. I stedet for å bygge opp data, bygger vi opp erfaring. Når vi skal gjøre noe nytt, kan vi i prinsippet jobbe med stort sett ingen data – forutsatt at vi allerede har erfaring i systemet fra lignende oppgaver, forklarer Casper Wilstrup.

Prediktiv white box

Et annet problem som Casper Wilstrup ser med dyp læring i dag, er behovet for ekte, menneskelig intelligens til å bygge modellene.

– Det store problemet med dyp læring-modeller er at de er utrolig statiske. Det er et menneske som setter seg ned og designer en modellarkitektur inklusiv noe lag, features og så videre. Det ligger utrolig mye menneskearbeid i å designe en modell. Og det som vi deretter kaller AI, er å curve-fitte den modellen til de dataobservasjonene som vi har, sier Casper Wilstrup.

– Dette innebærer konkret at du må bruke mange dyktige folk, og dem er det stor konkurranse om.

Selv om dyp læring i mange situasjoner viser seg å gi relativt gode resultater, tror Casper Wilstrup på at fremtiden for AI ligger i en mer naturtro simulering av selvorganiserende systemer. Denne ideen stammer fra 90-tallet, da Casper Wilstrup arbeidet ved Niels Bohr Institutet med å bygge datamaskin-clusters for å simulere kvantefysiske systemer.

Akkurat slik er Abzu-systemet bygd for selv å bygge opp modellene. Systemet finner input features, setter dem sammen i noder og foreslår den forklaringsgrafen som best forutsier det man ønsker å forutsi.

Casper Wilstrup anser at det er selve forklaringsgrafen som utgjør den store forskjellen mellom Abzu-systemet og andre autoML-løsninger.

– Kundene våre er ofte mer interessert i forklaringsgrafen enn i de forutsigelsene som kommer ut. La oss si at du vil forutse om en bruker av en app konverterer til en kjøper. I et slikt tilfelle er selve forutsigelsen ikke nødvendigvis interessant, fordi den er basert på faktorer som du uansett ikke har kontroll over, sier han.

– En bruker kan for eksempel ha stor sannsynlighet for å kjøpe hvis de har satt varer på ønskelisten sin. Men det er jo i virkeligheten en omvendt kausalitet, fordi de varene ble satt på listen fordi kunden hadde tenkt seg å kjøpe dem. Så det kan du ikke bruke til noe.

Å se grafen gir mulighet for å finne fram til hvilke parametere som egentlig leder til konvertering.

– Det å kunne trekke ut den formen for forståelse av grafen din, er noe som kan gjøre det mulig for deg å bruke grafen til å bli bedre.

Recombination learning

Et konkret prosjekt som Abzu allerede jobber med, er muligheten for å forutsi om et arbeidskjøretøy befinner seg på en byggeplass, på et verksted eller i et depot. Noe av de dataene som inngår, er RGB-verdier fra satellittbilder.

– I en case fra Norge kan vi se at det er en sterk relasjon mellom rød for depot og grønn for byggeplass. Hvis vi bruker de samme metadataene for en kunde i Texas, er fargene annerledes. Det er fremdeles verdifullt å koble på fargen, men du må lære noen nye farger, forklarer Casper Wilstrup.

– Når Abzu er trent på de norske dataene, kan vi med veldig lite data fra Texas-bedriften finne ut at vi bare trenger å justere fargeverdiene. Det innebærer at vi strukturmessig kan bruke den samme modellen.

Til dette formålet bruker Abzu det som bedriften kaller recombination learning.

– Vi kaller det recombination learning i stedet for transfer learning, fordi vi rekombinerer i alle leddene, forklarer Casper Wilstrup.

Transfer learning i en dyp læring-kontekst betyr vanligvis at man tar noen lag fra et nevralt nettverk som man kan bygge videre på med en enklere modell. Men i Abzu-hjernen er det altså forholdet mellom hver eneste subgraf som lagres, forklarer Casper Wilstrup.

– Det vil si at systemet bygger en modell ved å sette sammen fragmenter av alle tidligere modeller som den noensinne har sett. Det er litt transfer learning involvert i det, men ikke bare på det siste laget. Den kombinerer alle mulige læringer.

Fragmenter av læring

Casper Wilstrup sammenligner det med å ha en digital Lego-modell som lagres både i sin helhet og oppdelt i alle mulige fragmenter av den samlede modellen, som kan brukes til å bygge nye modeller. Hvis Abzu-hjernen ut fra tidligere innsamlet erfaring har en masse kunnskap om korrelasjoner mellom for eksempel røyking, alder og forskjellige sykdommer, kan de relasjonene med veldig lite data brukes til å bygge modeller som forutsier risiko for helt nye sykdommer.

– Alt dette betyr også at en node i Abzu ikke trenger å være en logistisk regresjon. Det kan være et databaseoppslag, en beregning eller en annen modell, forteller Casper Wilstrup, og nevner som eksempel forholdet mellom antallet barn og livsstilssykdommer.

– Der kan vi se ganske tydelig at jo flere barn du har, desto større er sannsynligheten for at du holder deg frisk inntil et visst nivå, hvor sannsynligheten går nedover igjen. Det kan du ikke umiddelbart fange i en celle i et nevralt nettverk, så der ville en slik modell legge mange logistiske celler sammen for å mappe det, sier Casper Wilstrup:

– Men i Abzu-hjernen hentes ganske enkelt bare en sinusfunksjon eller en gaussisk funksjon, hvis det matcher bedre. Den finner det fragmentet av læring fra tidligere som best forklarer relasjonen.

Abzu forventer å være ferdig med SaaS-plattformen 1. april 2020.

Saken ble først publisert på danske Datatech, og gjøres tilgjengelig på norsk for abonnenter av Digi Ekstra gjennom vår samarbeidsavtale med Teknologiens mediehus/Ingeniøren.