CacheOS gir kraftig web-akselerasjon

Børsens store interesse for CacheFlow, et firma med 10 millioner dollar i årsomsetning som plutselig er verdt 4,1 milliarder dollar, forklares ved forventningene til selskapets egenutviklede teknologi, kalt CacheOS.

CacheFlow Inc debuterte på børsen 19. november, og opplevde eventyret som alle drømmer om. (Se artikkelen Cache-teknologi skapte ny komet på Wall Street. Siden selskapet ennå ikke har tjent penger, må forklaringen ligge i forventningene til selskapets egenutviklede teknologi for å få fart på Internett.

CacheFlows produkter er dedikerte bokser med innebygget programvare. De brukes av store nettsteder - særlig innen e-handel og hos Internett-tilbydere - for å øke den faktiske ytelsen på nettjenerne, sett fra brukernes synspunkt. Programvaren består av spesialisert kode - her er intet allment operativsystem - kalt CacheOS. Selskapet beskriver dette som et integrert operativsystem, spesialisert på å få ned responstiden på web.

CacheOS består hovedsakelig av to algoritmer for å akselerere overføringen av websider til brukerne, og et eget internt lagringssystem.

De to akselererende algoritmene skal løse problemet som knytter seg til vanlig passiv mellomlagring av websider, der gevinsten i båndbredde står i motsetning til brukernes behov for oppdatert innhold. Passiv mellomlagring går ut på å kopiere websider etter hvert som de etterspørres. Nestemann som etterspør siden, oversendes kopien i mellomlageret, med mindre tiden som er gått overskrider et visst minimumsintervall. Settes dette intervallet for høyt, kan brukerne få gammelt innhold. Settes det for lavt, blir den faktiske gevinsten minimal.

CacheOS skal sørge for at også det ferskeste og nyeste innholdet leveres raskere enn om det kom direkte fra den opprinnelige tjeneren. Selskapet mener å kunne dokumentere gjennom uavhengige studier at responstiden på nye websider halveres, mens websider som nylig er lastet av andre, leveres opptil tjue ganger så raskt.

Algoritmen som virker på helt nye websider, "Pipelining Retrieval", løser et problem skapt av selve protokollene. En typisk webside består av opptil flere titalls objekter som må hentes hver for seg. TCP oppretter en egen sesjon for hvert objekt, og HTTP forespør nedlasting av hvert objekt for seg. De fleste nettlesere lar deg følge med på denne forholdsvis tidkrevende prosessen.

CacheOS løser dette ved å åpne så mange samtidige TCP-forbindelser som webtjeneren tillater, og henter alle objektene samtidig. De videresendes til brukeren så fort som nettleseren er i stand til å be om dem.

I en uavhengig evaluering publisert av The NSS Group, heter det at denne "Pipelining Retrieval" halverer tiden det tar å laste ned en gjennomsnittlig webside.

For å akselerere nedlastingen av websider som noen i brukerområdet nylig har vært innom, brukes en algoritme kalt "Adaptive Refresh". Denne algoritmen antar at objektene på en webside fornyes med vekslende mellomrom, og søker å danne seg et bilde av hvor ofte det er nødvendig å innhente de ulike objektene for å sikre at brukeren får fersk vare. En logo behøver for eksempel ikke å oppfriskes like ofte som et nyhetsoppslag. Idealet for algoritmen er å opprettholde en så fersk utgave av websiden at alle nye nedlastinger kan tilfredsstilles direkte fra CacheFlow-boksen.

Slik CacheOS fungerer, trenger ikke enheten noe fullverdig filsystem. I stedet lagres objektene fortløpende på diskene, mens en tabell i minnet forteller hvor hver objekt er. Objekter fra samme URL spres på de ulike diskene for å minimalisere lesetiden. Normaltilstanden er at alle diskene alltid er fulle. Eldre og sjeldent brukte objekter byttes kontinuerlig ut med nye. Spesielle lese- og skriverutiner hører til dette svært dedikerte systemet.

I sitt underlagsmateriale, viser CacheFlow til et tilfelle der man målte den båndbredden akseleratoren belastet webtjeneren med, og den båndbredden som faktisk ble levert brukerne. Datastrømmen inn til Cache-Flow-enheten var 3000 kbps, mens strømmen ut var på 4000 kbps. Økningen var med andre ord på 33 prosent.

CacheFlow-boksene kommer i flere størrelser til ulik bruk, fra rundt 50.000 kroner og oppover. Den rimeligste er beregnet på små Internett-tilbydere eller på avdelingskontorer med mye Internett-trafikk, og håndterer opptil 1,5 Mbps. De kan monteres i rack og veier noe under ti kilogram. De største tar 155 Mbps, med disker på 243 GB og tilsvarende avanserte egenskaper.

En diskusjon som preger CacheFlow, er hvor det lønner seg å legge ut cache-boksene. Flere kundestudier tyder på at små enheter i avdelingene kan ha vel så stor virkning som en stor enhet i hovedkvarteret. Nettstedet til CacheFlow viser flere ulike konfigurasjonsmodeller.

I Norge selges CacheFlow-boksene gjennom IPnett as.

Til toppen