Studenter bygger prompte-hjelp til folk flest

Dårlige prompter gir dårlige KI-svar. Det er den enkle erkjennelsen som har fått Erik-Andre Skauen Nilsen og tre medstudenter til å bygge en ny liten app.

Store språkmodeller har tatt verden med storm de siste årene. Å kunne snakke med maskinen med naturlig språk, gjør den tilgjengelig for folk flest. Men det er likevel en kunst å kunne gi den instrukser som gir skikkelig gode svar.

Den største barrieren for å få nytte av KI-en i Norge, er ikke teknologien, men at folk flest ikke kan «prompte», mener Nilsen.

Forskjellen på en litt løst formulert tanke og en skikkelig profesjonell instruks kan være forskjellen på noe du kan bruke og noe som renner ut mellom fingrene på deg.

Den siste uka har Nilsen jobbet dag og natt med løsningen, som kun foreligger i demo. Digi får lov til å dele lenken til demoen, men kan ikke gi noen løfter om ytelse.

Prompte-hjelp

− I stedet for en passiv tekstboks har vi bygget et verktøy som gjennomfører et proaktivt «intervju» med brukeren for å sikre teknisk og kontekstuell dybde. Ved å tvinge frem kontekst om situasjon, mål og kunnskap, transformeres en enkel idé til en profesjonell instruksjon basert på bransjestandarder, sier Nilsen.

Ideen kom da han selv slet med å sette opp gode prompter. Han bygde gjerne egne GPT-er i Chat GPT og så at det fort tok en times tid å komme frem til en god prompt.

− Målgruppa er absolutt alle, sier Nilsen.

For selv om mange snakker om hvor viktig det er å prompte riktig, er ikke det et fag det er enkelt å lære seg, mener han. Samtidig har ikke folk flest lyst til å sitte å skrive en halv side hver gang de skal bruke en språkmodell.

Hoppet til IT

Løsningen har han satt opp i Google AI Studio, og han har brukt Cursor til å endre litt på koden. De har testet ulike språkmodeller i bunn, og i demo-versjonen er det Google Gemma som er motoren.

Nilsen er ganske fersk til IT.

− Jeg har gjort en helomvending. Jeg er 30 år og kviet meg litt for å begynne å studere nå, jeg hadde jo en sikker jobb. Men jeg følte ikke jeg fikk utvikle meg den retningen jeg ville, sier han.

Han bestemte seg for å hoppe av jobben og begynne å studere IT.

− Allerede første uke begynte jeg å lage en quiz-app, forteller Nilsen.

Appen ble populær, og han kom raskt på ideen å lage sitt eget firma. I løpet av noen få måneder har han fått flere kunder.

Han tror det er flere fordeler med å ha litt erfaring fra yrkeslivet før man starter på IT-studier. Ikke bare har han med seg en disiplin og bevissthet om at ingenting kommer gratis. Han opplever at yrkeserfaringen gjør ham ekstra god til å finne og fokusere på problemene som kan løses, og ikke tenke teknologi først.

Foreløpig er appen kun en demo, men målet er å videreutvikle den med utgangspunkt i tilbakemeldingene de får.

Om det er penger å tjene på det, er de ikke sikre på ennå. Siden målet er å gjøre appen tilgjengelig for flest mulig, er planen i utgangspunktet å gjøre verktøyet gratis.