Selskapet bak Chat GPT lanserer egen veileder for lærere

− Chat GPT kan være et nyttig verktøy, men det er ikke perfekt. Om du bruker modellen i klasserommet, er det viktig å forstå begrensningene og hjelpe studentene å lære hvordan de skal kjenne dem igjen, skriver Open AI, selskapet bak Chat GPT i en fersk veileder rettet mot lærere.

Svarene Open AI nå tilbyr lærerne, understreker det skaperne av Chat GPT har sagt lenge: Modellen er trent til å produsere tekst. Den har ikke noe forhold til hva som er sant eller ikke, men bruker svært avanserte statistiske metoder for å regne seg frem til hva som er en sannsynlig respons på et spørsmål.

Men svakhetene betyr ikke at den ikke er nyttig for lærere, mener Open AI.

Slutten på hjemme-eksamen?

Da språkmodellen først gikk viralt høsten 2022, var bruk i skolen og juks på eksamener blant de første bekymringene.

Lærere fryktet at elevene leverte Chat GPT-produserte svar, og undersøkelser viste at selv på universitets-nivå var det mulig å lure sensor. Universitetene må tenke annerledes i kampen mot KI-fusk.

− Er dette slutten for hjemme-eksamen, spurte Digi retorisk i desember 2022.

Det er disse bekymringene Open AI nå prøver å svare ut.

Guiden inneholder forslag til konkrete måter å bruke Chat GPT i klasserommet, og forklaringer om hvordan modellen virker, hvilke begrensninger den har, hvor effektive KI-detektorer er, og hvilke bias eller fordommer modellen kan ha.

Veilederen er lagt opp som en liste over ofte stilte spørsmål, av typen − Hva gjør jeg når studenter legger frem KI-generert innhold som sitt eget?, og − Er Chat GPT trygg for alle aldre?.

Sier Chat GPT sannheten?

− Chat GPT er ikke koblet til internett og kan av og til gi ikke korrekte svar, skriver Open AI.

Men kanskje viktigere, Chat GPT vet ikke alt, og følger ikke med på nye trender. Den er også først og fremst trent på engelsk. Er en hendelse godt dokumentert på nett, men bare på norsk, er det ikke sikkert Chat GPT kan svare så godt om den.

Noen ganger høres Chat GPT overbevisende ut, men gir feil eller misvisende informasjon, skriver Open AI.

Fenomenet, som ofte kalles hallusinering, kommer nettopp av at logikken er bygget på hva som er et sannsynlig svar, ikke på å finne korrekt svar i en database av forhåndsdefinerte «fasiter».

Spør du spesifikke spørsmål om hva en ukjent forfatter har skrevet, eller hvilken forskning som finnes på et veldig smalt felt, kan den finne «sannsynlige» svar, som overhodet ikke stemmer med virkeligheten, men kommer med overbevisende artikkel-referanser.

Kan jeg spørre Chat GPT om den har skrevet noe?

− Chat GPT har ingen «kunnskap» om innhold kan være KI-generert eller hva den selv har generert, svarer OpenAI.

Den vil noen ganger finne opp svar på spørsmål av typen: − Skrev du denne stilen?, men svarene er tilfeldige og har ikke noe faktagrunnlag.

Det er nok ikke det svaret lærerne helst ville hatt, og ulike tjenester for «KI-detektering» på nett, har vist seg mildt sagt svake.

Open AI svarer også ganske tydelig på spørsmålet om KI-detektorer fungerer:

− Kort fortalt, nei.

Ingen av verktøyene, selv ikke de som er laget av de største aktørene som Open AI selv, har vist seg gode nok. Du kan ikke stole på at de skiller mellom KI-generert og menneskeskapt tekst.

Open AI foreslår at lærene snakker med elevene om dette, og kanskje mer overraskende, at lærerne bruker chatte-loggen elevene har med Chat GPT.

Læreplan om KI

For mange lærere vil kanskje det nyttigste verktøyet Open AI nå tilbyr være det ganske oversiktlige og grundige innblikket i tilgjengelig ressurser for å lære mer om KI generelt og til bruk i skolen spesielt.

Open AI insisterer nemlig på at Chat GPT kan være et veldig nyttig verktøy, både som verktøy for å hjelpe elever i å utvikle egen kritiske tenking, og for lærerne i å lage morsomme prøver og oppgaver, og sette opp planer for å komme igjennom en del av et pensum.