Slik blir du god på «prompt engineering»

– Prompt engineering handler om å ramme inn og påvirke den responsen en språkmodell gir. Men det er noen kjøreregler du må være klar over før du starter å prompte, sier Yngvar Ugland, forbrukerteknolog og divisjonsdirektør i DNB NewTechLab.

– Før man starter er det viktig å forstå at ChatGPT er en språkmodell, ikke en kunnskapsmodell. Den ble lagt ut gratis som en research preview, slik at OpenAI kunne lære språkføring. Noen ganger er det den sier sammenfallende med fakta, andre ganger ikke.

Viktig kunnskap

Prompt engineering er kunsten å utforme skriftlige instruksjoner til generativ kunstig intelligens (KI), slik at du får ønsket respons. Digi snakket nylig med to tek-ledere som mente at prompting var viktig å lære seg i møte med den nye teknologien. Men hvordan lære seg å prompte?

Yngvar Ugland har nylig bistått Digital Norway med å lage et kurs om prompt engineering, og teknologen har flere tips.

– Språkmodeller er gode på to ting. Det ene er å ta få ord og lage mange ord. Det andre er å ta mange ord og lage få ord, altså å oppsummere, sier han.

For å lage mange ord av en kort prompt, tyr KI ofte til fri fantasi, mener teknologieksperten, og forteller at han fikk en hyllende beskrivelse av seg selv som musiker da han ba ChatGPT å skrive om «Den berømte saksofonisten Yngvar Ugland».

– Alt du skriver, tas som fakta, så du må unngå ledende prompter. Skal du ha noe nyttig og håndfast tilbake, er det lurt å være klar, konkret og veldig spesifikk i det du spør om, sier han.

Gratisversjonen ChatGPT er foreløpig den språkmodellen folk flest har tilgang til, og Ugland poengterer flere ganger at man må være kildekritisk til svarene den gir.

– Vi tenker at den er intelligent fordi den er så god på språk. Men den er trent på informasjon som antageligvis er fra internett, og på internett er det mange meninger, sludder og pølsevev. Så den er potensielt trent like mye på meninger, som på fakta, anslår han.

– ChatGPT lager setninger som ikke finnes fra før, basert på setninger som finnes fra før. Det du spør om bør handle om språkmessige ting, ikke kunnskapsmessige ting. Og du må sjekke all informasjon som du får.

Tenk på sikkerheten

Ugland legger til at Bing-chat kombinerer ChatGPT-teknologi med nettsøk, og at Microsofts generative språkmodell derfor kan bidra med mer etterrettelig kunnskap. Men man må være kildekritisk mot det KI leverer, og man bør alltid tenke på sikkerheten, mener han.

– Min subjektive mening er at vi har vært altfor slepphendte med hva vi deler med leverandører av søkemotorer og sosiale medier. Jeg oppfordrer folk til å være litt mer nøye på hva de deler med gratisversjoner av chatboter. Du bør aldri inkludere personlig informasjon, bedriftssensitiv informasjon eller noe om egen eller andres økonomi, oppfordrer Ugland.

Han legger til at KI har generert flere fordomsfulle og diskriminerende resultater, og poengterer at etikken i språkmodellene blir moderert med subjektive synspunkt.

– OpenAIs menneskeinvolverte trening er gjort av folk bosatt i Kenya med retningslinjer fra San Francisco. Men den kenyanske eller californiske måten å se verden på er ikke alltid som den norske. Et skrekkeksempel er at 22. juli-terroristen ble listet opp som en norsk helt.

Ugland rister på hodet.

– Når det er sagt, mener jeg alle bør prøve, leke og lære. Men prøv det på noe som er ufarlig.

Stegvis prompting

Taler, struktur på dokumenter, forslag til hvordan bruke en type informasjon i en annen kontekst, er eksempler Ugland mener man kan benytte ChatGPT til.

Han oppfordrer også alle til å forsøke såkalt iterativ prompting – å stille flere spørsmål om samme tema, og forbedre resultatet ved gjentatte runder med informasjon.

– Om man vil skrive en historie, kan man gjøre det stegvis. Du kan be om mer fargerike beskrivelser av begivenhetene etter første forsøk. Så at hovedpersonen kjenner mer på følelsene etter neste forsøk. Du kan zoome inn på ulike ting, eksemplifiserer han.

Ikke som å søke på nettet

Aftenpostens teknologijournalist, Per Kristian Bjørkeng, er snart aktuell med boka «Knekk ChatGPT-koden – lær å tenke nytt og ta i bruk tidenes kraftigste dataverktøy». Han mener kunnskap om prompt engineering, eller hvordan man designer instrukser, blir viktig i tida som kommer.

– Jeg har kalt det instruksdesign, fordi det er vi som styrer svaret vi får. Det er lett å tro at maskinen bare gjør ting på egen hånd, men det du får ut, er helt avhengig av instruksen, sier han.

Bjørkeng trekker frem at du må tenke helt annerledes når du prompter enn når du søker på nett.

– Jo lengre instruksen er, jo bedre. Det er helt annerledes enn å google. Da leter du etter noe som er laget fra før. Men her vil du lage noe nytt for hver gang. Da bør du ha med tydelige og spesifikke instrukser, og bruke mer plass til å beskrive hva du er ute etter, råder han.

Ikke nøy deg med første forsøk

Bjørkeng mener at du kan få hjelp til alt fra rådgivning til rettskriving og koding fra tjenester som ChatGPT, da spesielt betalingsversjonen. Hovedrådet er å se deg selv litt utenifra og tenke over hva du egentlig trenger, før du starter å prompte.

– Du bør ta et metaperspektiv og tenke over hva du ønsker og hvordan du kan få hjelp til det.

Også Bjørkeng oppfordrer deg til å spørre om samme ting flere ganger, for å forbedre et svar. Det kan i tillegg hjelpe å be chatboten ta en rolle (som forsvarsadvokat eller foredragsholder), samt å be den skrive i en spesiell stil eller format.

– Ikke vær fornøyd med første svar. Påpek svakheter, be om utdyping og gi ChatGPT gjerne en rolle. Da kan du få et annet perspektiv. Du kan også gi instruks om lengde eller antall ord.

Bjørkeng mener chatbotene kan benyttes til å få grunnleggende kunnskap om tema du ikke kjenner så godt fra før. Men han råder deg til å faktasjekke alle svar.

– ChatGPT er en slags komprimert utgave av all menneskelig kunnskap, og de store linjene er ofte riktige. Men den fyller bare inn detaljene etter hva som virker plausibelt, så smådetaljer kan ofte bli feil.