I jakten på den største og mest imponerende KI-modellen står mange bedrifter i fare for å overse det viktigste. Sannheten er at de fleste problemer ikke krever enorme språkmodeller. De krever små, treffsikre og langt mer ansvarlige modeller.
KI-prosesser, eller arbeidslaster, er nå på vei til å bruke nesten halvparten av datasenterstrøm globalt. Forbruket vokser med 30 prosent i året. Treningen av GPT-4 alene krevde mer enn 50 gigawatt-timer – nok til å holde hele San Francisco i gang i tre dager.
Datasentre i USA brukte 17 milliarder liter vann i 2023. Tallet vil øke til 68 milliarder innen 2028. Tempoet er ikke bærekraftig, og det vil ikke bremse før vi utfordrer troen på at størst alltid er best.
Liten og mer nøyaktig
Det er her de små språkmodellene kommer inn i bildet. Ifølge Unesco og UCL kan mindre, oppgavespesifikke modeller kutte energiforbruket med opptil 90 prosent uten at kvaliteten faller. De kan kjøres lokalt uten å måtte sende sensitive data til globale skyleverandører. Det gir bedre personvern, enklere etterlevelse av regelverk og langt større kontroll på hva modellen faktisk gjør.
Og presisjonen? Da Bayer utviklet en liten modell for å svare på spørsmål fra bønder, viste den seg å være 40 prosent mer nøyaktig enn en stor språkmodell. Det sier egentlig alt. I smale, kritiske oppgaver slår målrettet intelligens generell intelligens. Hver eneste gang.
Betyr det at store modeller er overflødige? På ingen måte. De er uunnværlige når oppgavene er åpne, brede og komplekse. Når de brukes på små, avgrensede spørsmål, av typen som dominerer hverdagen i norsk og internasjonalt næringsliv, blir de ofte dyrere, trege og unødvendig risikable.
Hybrid arkitektur
Den smarte tilnærmingen er en hybrid arkitektur, der store og små modeller gjør det de er best til – orkestrert av teknologi som ruter oppgaven til riktig sted.
Vi er nå på et tidspunkt der KI enten kan bli et verktøy som løser reelle problemer, eller et system som kollapser under sin egen kompleksitet. Valget står ikke mellom stor eller liten, men mellom smart og mindre smart bruk av KI. Bedriftene som lykkes fremover, blir ikke de som velger den største modellen, men de som velger riktig.
Når energibruken eksploderer, data flyttes ukritisk til skyen og kostnadene vokser raskere enn gevinstene, er små språkmodeller det som faktisk peker ut en farbar vei. Mer presise, mer sikre og mer bærekraftige.
Flause om å spare 155.000 årsverk: Forskere viste at «fakta» delvis baserer seg på språkmodellens egenvurdering
