Amazons CTO: - Derfor valgte vi datasenter i Sverige og ikke Norge

STOCKHOLM (digi.no): Amazons teknologidirektør (CTO) var det største trekkplasteret under AWS Summit i den svenske hovedstaden forrige uke.

Siden i fjor er antall deltakere på konferansen mer enn doblet til 3500. Noe av den økte interessen må antagelig tilskrives en ny nordisk datasenterregion, som åpner i løpet av 2018.

Dr. Werner Vogels blir regnet som en av verdens ledende eksperter på distribuerte systemer. Han er også en av arkitektene bak og øverste leder for Amazon Web Services (AWS).

I mer enn 13 år har han stått i spissen for en av vår tids største megatrender innen informasjonsteknologi, med infrastruktur som datakraft, nettverk og lagring solgt som tjenester.

Nederlenderen har like lenge vært bosatt i regnfulle Seattle med familien. På årets hittil varmeste dag besøkte han Stockholm, som for anledningen kunne by på skyfri himmel.

Selvfølgelig var han der for å snakke om nettsky og satsingen i Norden. Nettskymodellen, egentlig flere modeller, forandrer mye på kort tid. AWS liker å snakke om tre varianter hvorav den første, bestående av virtuelle maskiner (VM-er), nå blir omtalt som noe tradisjonelt, noe nærmest litt gammelt.

Disse har fått følge av konteinere og sist, men ikke minst et enda høyere abstraksjonsnivå i form av serverless. Er du i tvil om forskjellene har du kommet til rett artikkel, for det skal Dr. Vogels straks forklare.

– Tiden da AWS bare var en samling tjenester for databaser, nettverk, lagring og datakraft – den tiden er langt forbi, konstaterer han.

Derfor nådde ikke Norge opp

Men først: Hvorfor valgte Amazon å etablere sine første nordiske datasentre i Sverige? Hva skjer videre med AWS?

Slike spørsmål fikk digi.no anledning til å stille, da vi som eneste norske avis, sammen med tre nordiske kolleger fikk en snau time med Vogels, dagen før åpningsforedraget hans i Stockholm.

AWS EU (Stockholm) får et sted mellom 150.000 til 240.000 servere fordelt på tre anlegg eller såkalte tilgjengelighetssoner lagt til Eskilstuna, Katrineholm og Västerås, som skal åpne en gang senere i 2018.

Disse datasentrene er knyttet til hverandre med mørk fiber. De er plassert et stykke unna hverandre av hensyn til stabilitet og geografisk redundanse, på egne kraftlinjer og nettverk.

Vi brukte et av våre tilmålte spørsmål til å utfordre Amazons teknologidirektør på hvorfor Norge ikke ble valgt i denne omgang.

Her til lands har som kjent både bransjeorganisasjoner og næringsliv fått myndighetene med på notene i form av gunstige rammebetingelser for datasentre, for å lokke til seg nettopp størrelser som Amazon, blant annet med lavere elavgift.

Svaret hans tyder på at bedre fiberforbindelser nok var avgjørende. Det pluss en pragmatisk tilnærming til geografi.

– Beslutningskriteriet har alltid vært tilgang på lav responstid for kundene våre. Ettersom vi ikke kan etablere seks regioner i nettskyen umiddelbart i Norden eller i hvert land, så valgte vi det landet hvor nær sagt alle de nordiske kundene vil få lav responstid (latency). Selv for Norge tror jeg det vil innebære ensifret svartid målt i millisekunder. Vi valgte bare det landet som vil gjøre alle kundene våre fornøyd, sier Vogels til digi.no.

Den nye regionen blir liggende nærmere enn alternativer som Frankfurt eller Dublin. AWS hevder også at data lagret i Stockholm-regionen er eid av kundene, og ikke vil forlate svensk jord uten kundenes tillatelse, noe de understreket på plakater i messehallen.

• Få med deg dette intervjuet: Nordmann var med å skape Amazon Web Services

– Store, feite monolittiske systemer

Helt overordnet tilbyr Amazon Web Services tre ulike slags skytjenester. Virtuelle maskiner der kunden spinner opp og fortsatt forholder seg til en virtuell server, men uten å måtte forholde seg til maskinvaren, er den første. Mange tradisjonelle serverapplikasjoner kjører på virtuelle maskiner og har gjort det i flere tiår, enten løsningene kjører i egne datasentre eller i nettskyen.

De øvrige to skyløsningene til AWS, igjen overordnet, kan sees på som ytterligere nivåer av abstrahering vekk fra maskinvaren som applikasjonene og koden kjører på.

Såkalt orkestrering med kontainer-teknologier, som Docker og Kubernetes, har de siste årene fått kraftig vekst i DevOps-miljøer og er særlig brukt til mikrotjenester. En applikasjon kan bestå av mengder av mikrotjenester. Amazon ESC (Elastic Container Service) og EKS (Elastic Container Service for Kubernetes) er to ulike plattformer de tilbyr.

– Mange av løsningene som ble bygd tidligere ble til store, feite monolittiske systemer som er vanskelig å skalere og gjøre pålitelige. De består av for mye programvare i en kjørbar fil. Det vi observerte var et ønske om gå over til det som kalles mikrotjenester, som handler om å dele programmene opp i mindre biter. Små deler du isolerer og putter i kontainere, og som kan skaleres opp eller ned etter behov.

Erfaringen og ønskene er kanskje like mye hentet fra Amazon.com, som er et av verdens største e-handelsnettsteder, som de kommer fra skykundene deres. Omtrent alt Amazon gjør er datadrevet.

– For eksempel hadde vi en større komponent i Amazon Retail som både hadde kundeopplysninger, adressebok og en innlogging som ble påkalt av nesten hver eneste nettside. Ved isolere dette i mindre biter kunne vi fjerne innloggingstjenesten og adresseboktjenesten til noe separat, som du ikke lenger trenger å skalere samtidig, men etter behov. Det forbedrer også sikkerheten, sier Werner Vogels.

Han sikter da til at den gamle komponenten med flere programvareblokker måtte ha samme adgang til lagring. Slik er det ikke lenger.

– Angrepsflaten blir mye mindre hvis du går over til en kontainermodell, sier han.

Tror framtiden er mest «serverless»

Det neste nivået etter kontainere er en nyere modell kjent som serverless, eller det som i nettgigantens sortiment er kalt Amazon Lambda. Konkurrenter som blant annet Microsoft, Google og IBM har egne alternativer.

Serverløs er egentlig et litt misvisende navn. Programvaren din kjører fortsatt på underliggende servere, men du skal slippe å forholde deg til disse. Det er en modell der skyleverandøren sørger for dynamisk allokering av ressursene, og der kunden bare betaler for den faktiske bruken av funksjonene eller programvaren de kjører, fremfor å leie for eksempel en virtuell instans.

– I praksis er alt vi har bygget på AWS serverless allerede. For eksempel SQL-databaser. Du trenger ikke å tenke på hvor den kjører og tjenestene virker selv om du skulle miste tilgang til en tilgjengelighetssone (datasenter, red.anm). Med serverless skriver du bare koden, og så håndterer vi resten for deg. Du trenger ikke å tenke på kapasitet. Vi skalerer opp og ned og sørger automatisk for at koden din kjører overalt, sier Vogels og fortsetter.

– Noen av de største kundene våre i verden har ganske umiddelbart begynt å ta i bruk serverless teknologi. Når det gjelder framtiden tror jeg hver og én av de tre modellene, virtuelle maskiner, kontainere og serverless alle vil være der, men det er tydelig at mest vekst kommer innen serverless framover, konstaterer han.

Han brukte en hel del tid på modellen, også under sitt påfølgende foredrag.

– Serverless gir en ekstrem produktivitet for utviklerne, med fullstendig eliminering av infrastruktur, administrasjon og mer fokus på forretningslogikken. Det er der vi er med AWS Lambda. Du trenger bare å fokusere på koden. Sleng koden din i AWS og så sørger vi for kjøringen. Dette er hvordan moderne utvikling gjøres. Det gir betydelige fordeler. Du trenger ikke bry deg om servere, kan skalere så mye du vil og viktigst av alt, du betaler bare for tiden funksjonen din eksekverer.

Amazons teknologidirektør er godt kjent med at unge, kjappe oppstartsbedrifter er en stor og kjent kundegruppe. Interessant nok hevder han at mange godt etablerte enterprise-kunder har tatt i bruk serverless. Blant annet Husqvarna, Coca-Cola, Fannie Mae, Autodesk, iRobot, The Guardian og Thomson Reuters.

Slik blir moderne IT skapt, oppsummerer han mens han viser fram bilde av en nyere modell robotstøvsuger fra iRobot.

– Det er ingen server som kjører bak den, bare en samling av tjenester. Vi ønsker ikke å tilby eller bygge hus for deg. I stedet vil vi tilby et stort sett med verktøy, så kan du lage huset selv. Cloud har gjort dere til ekspertene i hvordan å bygge. Det er den nye verden, sier Amazons teknologidirektør.

Autonome team

Hvert år lanserer AWS en mengde ny funksjonalitet. Bare i fjor kom de med 1430 nye funksjoner og tjenester.

På spørsmål fra digi.no medgir Vogels at han ikke kjenner detaljene i alt sammen.

– Har jeg alle disse i hodet mitt? Nei. La oss være ærlige. Mer enn 1400 nye funksjoner innebærer 4-5 hver dag. Det er ganske mye som skjer. Totalt har vi nå mer enn 125 tjenester, så det er ganske betydelig. Kjenner jeg alle detaljene? Nei. Vet jeg det store bildet? Ja. Vet jeg hva kundene etterspør fra tjenestene våre? Ja, selvsagt.

Virksomheten han leder, som i fjor sto for mer enn hele milliardoverskuddet til Amazon (AWS alene subsidierer i praksis hele virksomheten), består ifølge ham av en rekke mindre, ganske autonome team.

– Vi har valgt en modell der vi er tett på kundene våre. Hvert individuelle team er tett på kundene. Og vi krever ikke at et team må koordinere med hverandre. Hver gang vi har teknologi klar så kan de gå i gang. Det kan noen ganger virke ukoordinert måten dette skjer på, men det handler om å få teknologi ut til kundene så raskt som mulig, sier han.

90 prosent av funksjonaliteten, kanskje mer, er ifølge Vogels kundedrevet innovasjon. Det er ting kundene har etterspurt selv, ikke noe AWS har kommet opp med alene.

– Vi er ikke et av selskapene som sier «takk for innspillet, men vi er ekspertene og vet best». Nei. Vi jobber veldig tett med kundene våre for å forstå behovene de har. Det betyr at noen vil synes det er utfordrende å henge med på de kontinuerlige lanseringene, men vi har alle slags mekanismer for interaksjon med kundene, blant annet gjennomganger og besøk hos kunde for å tilby guiding.

– Maskinlæring for alle

Werner Vogels var innom en rekke nyheter, der blant annet maskinlæring var et av områdene som stakk seg ut. Omtrent alt Amazon driver med er basert på omfattende analyse av egne data. Deres egen taleteknologi Amazon Alexa er også en av flere satsinger som er basert på maskinlæring.

– Men du trenger ekspertise i maskinlæring for slikt. Og det er vanskelig å få tak i nok eksperter, så vi begynte å lage tjenester for dette. Vi har bokstavelig talt titusener av kunder som kjører maskinlæring på AWS, inkludert blant annet Slack, Ryanair og Vmware. Hva har vi lært av alt dette? Jo, at dagens tilstand for maskinlæring ikke holder mål. Maskinlæring trenger virkelig en ny stakk, for det finnes ikke nok data scientists til å gjøre all lavnivå-fikling som du trenger.

Vogels peker på de ulike trinnene slik. Først har du en mengde data, som du bringer ut i et skymiljø for behandling av en algoritme. Det gir deg en modell, som skaper nye data og til slutt en spådom. Maskinlæring handler om å skape ny kunnskap ved å gi en score som forsøker å forutsi eller spå noe.

– Vårt mål er å gjøre dette tilgjengelig for enhver utvikler i verden.

Dermed er han raskt over på tre lag eller rammeverk de fokuserer på, tilpasset alt fra tekniske ingeniører til applikasjonstjenester for generalister med en rekke ferdige modeller kundene kan bruke.

En av de tilhørende tjenestene handler om trening av modellene. Det er, sier han, egentlig en ganske dum og kjedelig prosess, som han sammenlignet med brute force. Amazon SageMaker er tjenesten som skal gjøre det hele langt enklere. Vogels bruker begreper som trening-med-et-klikk, utrulling med et klikk og alt sammen fullt håndtert i nettskyen med automatisk skalering.