Prøv avisen
Kiosken

Brug for kirkens stemme, når det gælder kunstig intelligens

Frankenstein-figuren er et urtema i menneskehedens korte eksistens her på Jorden. I modsætning til dyr kan mennesker nemlig skabe teknologi. Foto: Ritzau Scanpix

Bjørn Thomassen

Dette er en kommentar, og teksten er et udtryk for skribentens egen holdning.

DET ER IKKE FØRSTE GANG i verdenshistorien, at vi mennesker bliver forskrækkede over vores egne opfindelser. Frankenstein-figuren er et urtema i menneskehedens korte eksistens her på Jorden. I modsætning til dyr kan mennesker nemlig skabe teknologi.

I disse tider foregår den teknologiske frontforskning inden for kunstig intelligens. Maskiner, der på en eller anden måde begynder at tænke. De er måske ikke aktører på lige linje med mennesker, men snarere ”aktanter”, som den franske sociolog Bruno Latour ville sige det. De handler.

Den første røde lampe i den kunstige intelligens’ tidsalder kom med Stanley Kubricks mesterværk ”Rumrejsen år 2001”. En af hovedrollerne spilles af computeren HAL (de tre bogstaver præcederer IBM). I stedet for at assistere astronauterne begynder HAL at slå skibets besætning ihjel.

I sidste uge blev den sidste digitale version af Frankenstein så afsløret for offentligheden – og lagt til hvile i én og samme bevægelse. Frankenstein hedder i dette tilfælde GPT2. Det er en algoritme. Problemet er, at den virker forbandet godt. Det har affødt en væsentlig værdidebat i den globale kiosk: Hvordan kan vi sikre os, at teknologiske gennembrud kommer mennesket til gode? Og er der ting, maskiner bare ikke bør røre ved?

”Systemet skubber grænserne for, hvad man troede muligt, både fordi kvaliteten af produktet er så høj, og fordi alle potentielt kan bruge det,” som teknologiredaktør Alex Hern skriver i The Guardian. GPT2 er blevet fodret med et hidtil uset antal tekstdata fra artikler og bøger, som den bruger som afsæt til at digte videre. Man skal bare skrive en sætning, og så fortsætter systemet. GPT2 blev for eksempel givet den berømte første sætning fra George Orwells roman ”1984” og digtede derfra frit videre på et så overbevisende orwelliansk, at det ville have begejstret enhver litteraturkritiker.

I selvsamme The Guardian advarer skribenten Hannah Jane Parkinson, hvis artikel GPT2 også fik lov at digte videre på, at literat-robotterne truer forfatterens noble hverv. De er mere effektive, skriver lige så godt, måske endda bedre, og så skal de ikke have løn. Det er et spørgsmål om tid, før den første hele roman skrevet af en robot kommer på markedet. Og de af os, der underviser på læreanstalterne, tør slet ikke tænke på konsekvenserne, hvis sådanne algoritmer bliver tilgængelige for vores studerende.

Business Insider beretter, at forskerne bag GPT2 også har offentliggjort eksempler på GPT2’s suveræne stil i produktionen af fake news.

Hvis et sådant instrument havner i de forkerte hænder, ville man ved hjælp af algoritmen kunne sprede et så uhyre højt antal særdeles overbevisende fake news, at de i løbet af kort tid ville kunne dominere det globale mediemarked og frit manipulere politiske stemninger. Og det er grunden til, at forskningen bag GPT2 ikke offentliggøres. Det er simpelthen for farligt.

Det er lettere paradoksalt, at den ny algoritme holdes hemmelig for befolkningen. GPT2 er nemlig skabt af firmaet OpenAI, som blev lanceret i 2015 som en almennyttig startup -virksomhed, der har som sit eksplicitte mål at udvikle kunstig intelligens til gavn for den almene befolkning. Hverken virksomheder eller regeringer bør kunne styre samfundsudviklingen ved hjælp af avanceret kunstig intelligens.

OpenAI er blandt andet støttet af Elon Musk, der som mange andre it-milliardærer er tilhænger af transhumanismen: Mennesket bør omskabe sig selv ved hjælp af teknologien, ellers vil den kunstige intelligens vinde over os.

Ved et nærmest mystisk sammentræf blev GPT2 præsenteret samme dag, som italienske Il Messaggero kunne fortælle, at pave Frans havde holdt et møde med Microsofts præsident, Brad Smith. Mødet handlede netop om at sikre et etisk grundlag for brugen af kunstig intelligens.

Her i Rom, hvorfra jeg skriver i denne uge, huser Det Pavelige Videnskabsakademi i næste uge et seminar med titlen ”Robotetik. Personer, maskiner og sundhed”.

Der er brug for kirkens stemme. Algoritmer er nyttige, men de har ingen etisk bevidsthed. Præsident for Det Pavelige Videnskabsakademi udtaler således i den katolsk-inspirerede avis Avvenire:

”Nye informationsteknologier penetrerer flere og flere områder af virkeligheden, inklusive menneskekroppen, som er stadig mere underlagt teknovidenskabens kriterier; vi risikerer en biopolitik, der flyder over i et teknokrati.”

For mon ikke der sidder en eller anden derude parat til at reproducere GPT2? Så svært er det faktisk heller ikke. Det kræver bare en portion big data og en god algoritme.

Frankenstein er lagt til hvile. Han skal nok vågne op igen.

Kiosken samler og kommenterer den internationale værdi- og religionsdebat og skrives på skift af Bjørn Thomassen, professor mso i socialvidenskab ved Roskilde Universitet, og Anders Raahauge, sognepræst i Sønderborg.