Sjældent har teknologidebatten været så intens som efter introduktionen af det nye skriveredskab ChatGPT i slutningen af november sidste år. Det er en kunstig intelligens, der på imponerende vis kan besvare spørgsmål og udføre avancerede skriftlige opgaver, man beder den om at løse. Det er tilmed med en sproglig finesse, der normalt kun har været forundt menneskelige skribenter.
Men til trods for en udpræget fascination for robottens imponerende evner er ChatGPT også blevet mødt af udpræget skepsis. Skolelærere frygter, at elever vil bruge den til at snyde ved eksamener. Andre frygter, at den vil overflødiggøre folk, der lever af at skrive. Sikkerhedseksperter frygter, at den kan manipuleres til at sprede misinformation.
Tusindvis af teknologieksperter har underskrevet et åbent brev om, at man må sætte udviklingen af kunstig intelligens på pause for ikke at udsætte vores samfund for ukontrolleret risiko.
"Vi skal være forsigtige med det her," sagde Sam Altman, administrerende direktør for firmaet OpenAI, der står bag ChatGPT. Han sagde til ABC News, at selv han var "en lille smule bange" for, hvad man kunne bruge teknologien til.
"Jeg er især bange for, at disse modeller kan blive brugt til sprede misinformation i stor skala. Nu hvor de bliver bedre til at skrive computerkoder, kan de blive brugt til offensive cyberangreb," sagde Sam Altman.
Papegøje-problemet
Der er selvsagt også grund til at være varsom med teknologier som ChatGPT, siger Miguel Sicart, professor ved IT-Universitetet i København. Han mener, at man bør være yderst opmærksom på, hvordan man bruger den nye teknologi.
"ChatGPT afspejler, hvad vi beder den om at gøre eller svare på, og indtil videre har man især brugt den til at komme med papegøjesvar, hvor den bare gentager, hvad andre folk allerede har sagt. Derfor skal man være kritisk over for, hvad den siger. Men der er også meget spændende i den her teknologi, som vi skal finde ud af, hvordan man skal bruge," siger han.
Papegøje-problemet er, at ChatGPT er skabt ved at kigge på enorme mængder af tekst, som den strikker sit svar sammen på baggrund af. Selvom svaret virker yderst livagtigt, aner teknologien i virkeligheden ikke, hvad den skriver. Den sammensætter i stedet sætninger af ord, der sandsynligvis vil følge hinanden i den kontekst, man beder den forholde sig til. Hvis andre skriver sådan her, er det mest sandsynligt, at jeg også skal svare sådan her, ville den tænke – hvis den altså havde en rigtig intelligens.
Det er derfor, ChatGPT kan finde strukturen i digtformen limerick og lynhurtigt bruge den til at lave sin egen limerick. Derfor kan den også skrive i et sprog, der minder om William Shakespeares eller N.F.S. Grundtvigs, fordi den genkender, hvordan forfatterne typisk vil skrive og kan skrive noget, der minder om det.
Et ekko af kulturhistorie
Når Miguel Sicart kalder skrivemaskinens svar for papegøjesvar, afspejler det, at den ikke selvstændigt finder på de bedste svar. Den kigger på, hvad et typisk svar vil være og gentager det – ligesom papegøjen gentager de ord, dyret hører et menneske sige.
Den konstatering har fået de teknologikritiske alarmklokker til at ringe, for hvis teknologien bliver fodret med misinformation, bliver dens svar også forgiftede. Men Miguel Sicart mener snarere, at det understreger, man skal lære at bruge ChatGPT's muligheder rigtigt.
"Det her er en metode, der kan give os adgang til en stor del af vores kulturarv og -tradition. Systemet er allerede oplært i at arbejde med tekster fra flere århundreder, som vi kan tilgå og arbejde med på nye måder, hvor vi undgår noget af den menneskelige bias," siger han.
Man kan forstå det som et gigantisk bibliotek, som vi nu kan få endnu større adgang til. Når vi i dag har tilgået biblioteket, har vi tit ledt efter de ting, vi allerede kendte til. Vi har altså allerede lavet en vurdering af, hvad vi synes, der er mest interessant at finde frem fra bibliotekshylderne, inden vi er gået på jagt i arkivkasserne. Men ChatGPT tilgår det omvendt. Maskinen har gennemlæst alle bøgerne, men uden at vide, hvad den skal lede efter, og hvad den skal bruge bøgerne til. Det betyder, at den kender til hjørner af vores historie, som mange af os endnu har til gode at blive klogere på, eller som vi enten havde glemt eller overset.
"Det er en af de mest spændende ting ved ChatGPT. Den kan generere et helt ekko af vores kulturhistorie," siger Manuel Sicart.
Derfor mener han, at man bruger teknologien forkert, hvis man bare lader den svare på spørgsmål, der kan vejes på en sandt eller falsk-vægt. I stedet skal man bruge den til at vise potentielle muligheder, man ellers havde overset. Ikke fordi, ChatGPT skal overtage det kreative arbejde, men for at det kan inspirere i det kreative arbejde.
Frigøre kreativitet
Måske kan teknologien tilmed bruges til at frigøre kreativ energi, hvis skriverobotten kan overtage mange trivielle, rutineprægede skriveopgaver. Forfatteren Ryan Bradley beskrev i det amerikanske medie The Atlantic, hvordan en opgave, der tidligere tog ham 30 minutter, nu kan løses på 5 minutter ved hjælp af ChatGPT.
Miguel Sicart ser også et klart potentiale i, at den kan frigøre tid ved at hjælpe mennesker med simple tekstopgaver:
"Jeg bruger nok en time om dagen på at svare mails, som bare svarer på nogle simple spørgsmål. ChatGPT er god til at svare på relativt enkle spørgsmål og lave en klassisk, struktureret tekst, som vi kan gennemlæse, inden vi sender den."
Teknologien kan bruges til det meste. Sågar at sammensætte en madplan. Softwareudvikleren Ammaar Reshi delte i denne uge et eksempel på Twitter, hvor han havde bedt ChatGPT om at lave en hel uges madplan. Han angav et madbudget og fortalte om særlige hensyn til hans diæt. Straks fik han en detaljeret madplan for både morgenmad, frokost og aftensmad med både opskrifter og en indkøbsliste, der var tilpasset et specifikt onlinesupermarked, så han hurtigt kunne bestille sin mad for hele næste uge.
Funktionerne kan også bruges i virksomheders kundeservice, hvor robotten kan svare på nogle af de spørgsmål, som kunder stiller igen og igen. Man kan tilmed forestille sig, at man vil kunne ringe til en relativt autentisk kundeservice, der automatisk nedskriver ens spørgsmål, stiller det til ChatGPT og herefter læser skriverobottens svar højt med en menneskeligt klingende, autogenereret stemme – uden man først skal lytte til 20 minutters ventemusik, mens man sidder i telefonkøen.
"Men det betyder ikke, at en kunstig intelligens skal kunne erstatte en lærer, en lægesekretær eller medarbejderen på jobcenteret. Bare fordi nogle opgaver kan virke simple og rutineprægede, tager man effektiviseringen et skridt for langt, hvis man erstatter de her opgaver med en supergod autocorrect, hvis opgaverne kræver en menneskelig vurdering og social forståelse," siger Miguel Sicart.
Hvis svarene er et spejl af vores spørgsmål, skal man med andre ord ikke kunne få adgang til fornyelse af eksempelvis recepter, bare fordi man siger de rigtige ting, som udløser en ny recept. Det skal stadigvæk kræve, at man først taler med en kritisk, opmærksom lægesekretær.
Eksemplet illustrerer, at der skal sættes politiske grænser for, hvad man kan bruge teknologier som ChatGPT til, mener Miguel Sicart.
"Jeg er ikke så bange for, at folk kommer til at miste deres jobs, for det skal vi nok få tilpasset os til i fremtiden. Men vi skal passe på, at vi ikke kan skelne mellem, hvad et menneske og hvad ChatGPT siger. For ChatGPT kan lyde super sikker i sin sag, selvom den tager alvorligt fejl."
Således er han enig i kritikken af, hvilke vidtrækkende konsekvenser det kan få, hvis man lader teknologien styre sig selv. Men han er derimod uenig i en udpræget bekymring i kritikken af ChatGPT:
"Hvis en papegøje-teknologi kan få et 10-tal til en eksamen, så er det måske ikke det rigtige spørgsmål, man stiller de studerende," siger han.
Han er ligefrem optimistisk på uddannelsesinstitutionernes vegne, nu hvor eleverne har fået et redskab, de kan bruge til at producere afleveringer og eksamensopgaver.
"Som underviser har det tvunget mig til at tænke over, hvad mine studerende egentlig lærer, og hvordan de kan bevise, at de har lært noget. Det spørgsmål har vi ikke rigtigt forholdt os til i et stykke tid, men nu er vi tvunget til at svare på det, når en papegøje, som ikke engang forstår, hvad den skriver, kan svare lige så godt på eksamen," siger Miguel Sicart.