I dag er bruken av samtaleroboten ChatGPT en stor hindring for læring, der både pedagoger og foreldre må prøve å håndtere dette forstyrrende elementet i utdanningen, ifølge professor Walter Pohl.
Er ChatGPT en fuskemaskin? For å svare på det spørsmålet må vi først forstå hvordan det fungerer og hva det gjør.
Det er den første offentlig vellykkede store språkmodellen (Large Language Model, LLM). En LLM er designet for å gjøre en overraskende ganske så triviell oppgave: Basert på litt tekst, gjetter den neste ord i teksten. Den lærer å utføre denne oppgaven gjennom eksempler. Modellen får en stor mengde tekst, og lærer altså av denne teksten hvilke ord som har en tendens til å følge etter andre ord. Den vet faktisk ikke ting på den måten du tror.
Dette forklarer hvorfor den grunnleggende aritmetikken blir feil, noe som har vært mye omtalt i diskusjonen om appen. ChatGPT vet faktisk ikke hvordan den skal regne.
Tenk deg at du bare noen ganger har lest om matematikk og regning, men aldri lært det på skolen, og så prøver å gjette, basert på noen eksempler du så en gang. Du vet at svaret er ment å være et tall av en viss lengde, men utover det ville du bare ha en vag følelse av hvordan et holdbart svar ser ut.
Appens måte å lære på forklarer også tendensen til å konstruere et svar når den ikke vet svaret. Den vet ikke hva den vet. For velkjente fakta, som hovedstaden i Frankrike, vet den at hvis du skriver setningen «Hva er hovedstaden i Frankrike?» at det mest sannsynlige neste ordet er «Paris».
For et mer uklart faktum, kjenner den plausibelt klingende neste ord. Den vet at medisinsk sjargong etterfølges av medisinsk sjargong. Den vet at næringslivsbegreper etterfølges av næringslivsbegreper. Men utover det er det alltid gjetting.
Den vil gjette riktig når den blir presentert for velkjente fakta, og bare da. Dette betyr at ChatGPT på kort sikt presenterer to forskjellige farer for utdanningen:
På sikt er det flere grunner til å være optimistisk. LLM-er er kraftige verktøy, og de vil bare bli bedre. Vi vil etter hvert finne ut hvilken rolle de skal ha i utdanningen.
Men i dag er bruken av verktøyet en stor hindring for læring, der både pedagoger og foreldre må prøve å håndtere dette forstyrrende elementet i utdanningen.