Slik gjør ChatGPT forskerne mer effektive

Det er flere kontroverser rundt språkmodellen ChatGPT, som ble lansert i november 2022. Et av dem er at den er så god at den vil kunne hjelpe studenter på eksamen. En annen utfordring er at den dikter opp svar når den ikke «vet». Likevel har forskere tatt den i bruk – og de jubler over økt effektivitet.

– Da jeg skulle lage en forelesning, ba jeg den om å lage en oversikt over nøkkelpunkter. Jeg hadde allerede en idé om hva jeg ville ha med. Deretter ba jeg den om å lage slides. Jeg ville kanskje brukt tre-fire ganger så lang tid uten ChatGPT, sier Simen Reine, senioringeniør ved Hylleraas-senteret ved Universitetet i Oslo.

Han forklarer at ChatGPT er et godt verktøy for å effektivisere forskernes arbeid, men at det er noen ulemper:

– Du må kunne litt om temaet. ChatGPT gjorde noen feil, så hvis jeg ikke hadde visst hva jeg drev med, ville det vært krise. Det er litt som å ha en uvitende kollega som er veldig flink med riktig veiledning.

ChatGPT kan lage kode og programmer

Reine forteller videre at ChatGPT er svært god til å kode, men også her må man ha litt forkunnskaper. Med en god beskrivelse av hva en kode, eller et program, skal gjøre, kan du få ChatGPT til å skrive dette for deg:

– De første forsøkene var elendige, sier Reine. – Men dette er en ferdighet man får, for det handler også om hvor god du er til å formulere spørsmålet. Som regel virker ikke første forsøk, så du må interagere med språkmodellen. Du kan også be den utdype hva som skjer i deler av koden, eller be den forklare hva de ulike variablene gjør.

ChatGPT er også nyttig til å skrive dokumentasjon til etablerte koder. Dokumentasjonen er det som forklarer hva koden gjør.

– Dette tar mye tid. Nå kan ChatGPT gjøre det. Det er tidkrevende å tråle side opp og side ned i dokumentasjonen for å forstå programmet. Det er enklere å spørre ChatGPT og få svar på akkurat det du spør om, sier Reine.

I tillegg kan ChatGPT enkelt lage tester av, eller foreslå forbedringer til, egenutviklet kode.

Bidrar til å holde oversikt over forskningsfeltet

– Det er vanskelig å lære noe helt fra start med ChatGPT, men hvis du kan litt fra før, er den til god hjelp for å få oversikt over et tema, sier Simen Kvaal, forsker i teoretisk kjemi ved Hylleraas-senteret.

Han har brukt ChatGPT til å sette seg raskt inn i fagfelt tett på egen forskning.

– Jeg kan be språkmodellen forklare hvordan nevrale nettverk fungerer, eller liste opp ulike metoder for maskinlæring. Eller be den forklare noe ved hjelp av matematikk. Modellen kan ta feil, men du får et raskt overblikk, mener han.

Kvaal har blant annet brukt ChatGPT til å koble to ulike programmeringsteknikker:

– Jeg ba den kombinere Python-bibliotekene Pytorch, for maskinlæring, med SciPy, et annet bibliotek for vitenskapelig beregning. Det var noen småfeil, men jeg fikk et godt utgangspunkt, forklarer Kvaal.

Både Reine og Kvaal er enige i at ChatGPT er et produktivitetsverktøy for dem.

– Den er foreløpig ikke så god på matematiske resonnementer, men kan sette deg på sporet, sier Kvaal. – Den kan være en forskningsassistent som kommer med løsninger fra datamaterialet den er trent på.

Han legger til at ChatGPT kan kobles til internett, beregningsverktøy eller andre ting som gjør at den blir et veldig nyttig verktøy.

Blir mer kreative

Kvaal har brukt ChatGPT til å finne på morsomme titler til forskningsartiklene.

– Den er god på å gjøre teksten mer interessant, sier han.

I prosessen med å finne ut hvordan CHatGPT kan bidra på nyttige måter, har de to forskerne også lekt seg litt med den.

– Fantasien er det som setter grenser, sier Reine.

– Jeg har også bedt om ideer innenfor ulike maskinlæringsarkitekturer i kvantekjemi, sier Kvaal.

– Da ga den meg en liste med ti ting som jeg kunne undersøke. ChatGPT er en stokastisk modell som setter ord etter hverandre etter en sannsynlighetsmodell. Den kombinerer nøkkelord som kan opptre sammen. Det den foreslår er ofte ren science fiction og overhodet ikke mulig, men innimellom kommer det gullkorn jeg kan tenke mer på. På denne måten kan jeg få inspirasjon.

Det er ikke sjelden at gode ideer oppstår i flere forskningsmiljøer, uavhengig av hverandre. Derfor forklarer de to forskerne at det er stor konkurranse om å være først ute med en ny idé. Hjelp til å være innovativ er veldig nyttig.

Forskningsartikler vil ese ut

De to forskerne forteller at det er en viss fare for at ChatGPT vil bli brukt til å skape tekst til forskningsartikler, men også å finne informasjon i ulike artikler.

– Hvis det er kunstig intelligens som leser og søker i artiklene, vil det ikke være noen begrensning på hvor mye data eller detaljer som skal være med i teksten. Da vil forskningsartiklene ese ut i størrelse, mener de to. Det er ingen incentiver til å begrense størrelsen hvis kunstig intelligens blir brukt til både å skrive og å søke i teksten.

De er likevel ikke bekymret for at mennesker vil slutte å forske eller lese forskning.

– Hver gang vi får nye verktøy, vil det alltid være noen som må kunne bruke verktøyene, sier Reine. – Det er typisk for kreativ kodeutvikling at man har en idé. Etter seks måneder har man kanskje klart å lage en prototyp. Deretter bruker man lang tid på å teste og gjøre det helt ferdig. Hvis vi kan korte ned denne tiden, får vi mulighet til å bli veldig mye mer kreative.

– Vi forskere blir nok ikke overflødige, men som med alle andre nye teknologier skaper dette økt produktivitet. Mange jobber kan komme til å forsvinne, og dette kan påvirke økonomien enormt. De som ikke tar i bruk disse verktøyene, tror jeg vil komme til å sakke akterut, sier Kvaal.

Ufrivillig plagiering

Et av de største problemene med å bruke ChatGPT er at koden og forslagene den kommer med, kan være basert på kode som er åpen, men lisens-belagt. Det er ikke kjent hva slags data ChatGPT er trent på.

– Mange private aktører tør ikke bruke ChatGPT i det hele tatt i frykt for å plagiere kode. Det er rettssaker i USA mot OpenAI på grunn av dette, og situasjonen er foreløpig uavklart, sier Reine.

– Vi har noe av det samme problemet med kunstig intelligens som lager kunst eller musikk. Det er åpenbart et problem med plagiering når den bruker en stil eller baserer seg på et kunstuttrykk som er noens åndsverk, sier Kvaal.

– Hvis du ber ChatGPT om å lage et sammendrag av en bok, så er antagelig den boken en del av materialet den er trent på. Det betyr at den kan være trent på materiale som er under copyright.

Derfor mener de to forskerne at man bør være litt forsiktig med hva man bruker ChatGPTs kodehjelp til.

– Er det juks når studenter bruker ChatGPT?

– Personlig kunnskap har fortsatt en verdi, mener Kvaal.

– Det er ikke bare å erverve kunnskap. Du må også ha forståelsen for det. ChatGPT kan samle informasjon for deg, men den kan gjøre det uten at du skjønner bæret, sier Reine.

Utfordringen er at du ikke trenger å vite noe som helst for å gi et godt svar på eksamen med ChatGPT. Problemet er at hvis du ikke vet noe selv, har du ingen verktøy for å vurdere svaret den gir. Da kan du ende opp med å bomme grovt, påpeker han.

Likevel mener han at studentene bør kunne ta i bruk ChatGPT som et hvilket som helst annet verktøy, bare ikke på eksamen:

– Studenter burde bruke det for å tilegne seg kunnskap så lenge det er i samsvar med god kildekritikk. Det kan være et kjempeverktøy for dem snarere enn det motsatte, sier Reine.

– ChatGPT kommer til å påvirke utdanningen, sier Kvaal. – Under eksamen vil det være som med andre hjelpemidler: Det er klart definert hva du har lov til å bruke.

ChatGPT – Som å se en skrekkfilm: skremmende og gøy

Selv om forskerne er positive til å bruke ChatGPT som verktøy, er det mange problematiske sider ved denne teknologien. Et av utfordringene er penger:

– OpenAI har foreløpig investert 12 milliarder dollar, og de taper penger hver dag, for det koster mye å bruke ChatGPT, sier Reine. Det er snakk om absurde summer, så dette er en del av et kappløp som vi ikke vet hvor ender.

Problemet er ikke at privat næringsliv bruker penger på å lage en tjeneste – problemet er at det er summer som forskere og de fleste offentlige instanser ikke er i nærheten av å kunne bruke. Dermed er dette et kappløp for noen svært få selskaper, som ingen andre får innsyn i og som offentlig valgte organer har begrenset mulighet til å påvirke. Dette kan fort bli et samfunnsproblem.

– Dette er skremmende fordi denne teknologien vil endre på samfunnet vårt. Det ligger ekstremt mye makt i dette, og vi har ikke forberedt oss. Hvis noen vil svindle oss, kan de nå gjøre det på nydelig engelsk eller perfekt norsk, for eksempel, sier Reine.

Vi vil ikke nødvendigvis være i stand til å kjenne igjen hva som er kunstig, og hva som er ekte.

– Og det er ikke bare ChatGPT, legger Kvaal til. Det vil komme mange flere produkter med kunstig intelligens.

Forskerne legger til at desinformasjon og spam vil kunne øke ettersom den kan lages kunstig. Det har et enormt ødeleggende potensiale.

– Vi vet dessuten ikke hva slags kunstig intelligens-teknologi som er like rundt hjørnet. Det kan komme KI-modeller som kan drive med politisk påvirkning og fabrikkering av data i en skala vi ikke har sett før, sier Reine.

– Dessuten trenger vi ikke lenger mennesker til å overvåke andre for å legge merke til at noe er feil, legger de to til.

– Verdenssamfunnet bør reagere som om dette allerede er en realitet. Det har vært en eksponentiell vekst innen kunstig intelligens, og vi vet ikke hva som vil skje videre, sier Kvaal.

– Det er akkurat som å se en skrekkfilm: Det er skremmende og gøy, sier Reine. – Vi bruker dette som et verktøy, og det er helt fantastisk, men med tanke på hva det kan brukes til i feil hender, er det også utrolig skummelt.

Artikkelen ble først publisert på Titan.uio.no