Prøv avisen
Interview

Ekspert: Autoritære stater misbruger kunstig intelligens

Europæerne skal ikke frygte robotternes opstand. De burde ifølge tysk ekspert hellere diskutere, hvordan demokratier skal forberede sig på en fremtid, hvor det autoritære Kina vil være en stormagt inden for udviklingen af kunstig intelligens

Pepper er på størrelse med et seksårigt barn. Han har store sorte øjne, og på brystet er han udstyret med en tablet. I Japan rådgiver han kunder, når de vil købe smartphones. I Frankrig informerer han passagerer, der vil rejse med toget, og på de store krydstogtskibe er han den perfekte rejseleder.

Det er tanken, at Pepper fremover også skal sættes ind som hjælpelærer på skoler i udviklingslandene og undervise børn i matematik og sprog.

Selvom Pepper altså er lidt af et multitalent, er han ikke noget menneske, men derimod en robot, der er udstyret med kunstig intelligens, KI.

Robotter som Pepper går deres sejrsgang verden over i disse år, og i bogen ”Mensch und Maschine” (Menneske og maskine) beskriver den tyske erhvervsjournalist Thomas Ramge, hvordan KI i stigende grad overtager flere og flere arbejdsområder, der tidligere var forbeholdt mennesker.

”Det er en debat, der ofte føres af folk, der ser verden igennem science fiction-briller. Langt størstedelen af forskerne i KI-branchen ved, at vi – i hvert fald i øjeblikket – ikke har en teknologi, som gør det muligt for robotter at gøre sig selvstændige eller føre krig mod os. Naturligvis kan ingen forudse, hvad der sker om 200 eller 300 år, men her og nu er der i hvert fald ingen fare for, at robotter vil tage magten fra os.

Vi burde i stedet for beskæftige os med spørgsmålet om, hvor farligt det er, at mennesker kan sætte robotterne ind imod andre mennesker. I øjeblikket er den største fare, at KI kan fremme monopoldannelser, at firmaer og organisationer kan bruge teknologien til at manipulere folk, og at stater vil misbruge KI til at udspionere og undertrykke borgerne. Det er alle tre områder, hvor det er nødvendigt, at politikerne griber ind og laver lovgivninger, så faren for misbrug mindskes, og dét burde vi diskutere i stedet for ’robotternes opstand’.”

I din bog beskriver du, hvordan Kina på mange områder er ved at blive den førende stormagt inden for udvikling af KI. Hvordan bruger den kinesiske stat teknologien over for sine egne borgere?

”Under det arabiske forår oplevede vi, at de sociale medier var med til at styrke mange demokratiske bevægelser, men nu har autokratiske stater som Kina fundet ud af, at de også kan bruge internettet til at kontrollere folk: Den kinesiske stat har udviklet en social scoringsmodel, hvor et KI-system har adgang til alle informationer om borgerne – selv hos de private firmaer. Borgerne mister for eksempel points, hvis de kører over for rødt, opfører sig forkert på deres arbejdspladser eller offentliggør en besked med et indhold på sociale medier, som ikke passer i regeringens kram. ’Artige’ kinesere belønnes i form af for eksempel forfremmelser eller kreditter, mens de ’uartige’ borgere i værste fald risikerer fængsel. Autokrater i Kina bruger altså allerede nu KI til at styrke og konsolidere deres magtposition. Naturligvis har der altid eksisteret diktaturer, men det nye problem i forbindelse med kunstig intelligens er, at overvågning og manipulation i dag finder sted på en langt mere subtil måde end tidligere, så folk ikke rigtig forstår, hvad der rent faktisk sker. Efter min mening er det mest uhyggelige ved Kinas sociale scoringssystem da også, at mange kinesere åbenbart synes godt om systemet.”

”Ja, det kan virkelig være farligt. Set ud fra en europæisk synsvinkel er det naturligvis farligt for verden, når autokratier hele tiden bliver stærkere og mægtigere, og især når disse stater i stigende grad også får økonomisk magt over os, sådan som det i øjeblikket er tilfældet med Kina.

Vi må også overveje, hvad det betyder for os, at populistiske strømninger og nationalistiske partier i vores egne lande ligeledes begynder at udnytte teknologien til deres fordel. I Vesten er der ligesom i Kina mange folk, der ønsker, at staten overvåger borgerne mere, og at myndighederne griber hårdere ind over for lovovertrædelser. Derfor er det nødvendigt for alle demokratier at stille sig selv spørgsmålet: Kan det samme ske her som i Kina?”

”Det er tvingende nødvendigt, at vi fører en offentlig debat. Alle europæiske demokratier bør enes om fælles regler for, hvordan vi bruger KI-systemerne, og hvilke grænser myndighederne bør have i deres udnyttelse af teknologien. Vi har brug for at finde en europæisk vej, der ligger langt væk både fra russernes og kinesernes misbrug af KI til at opretholde udemokratiske systemer og fra amerikanernes Silicon Valley-forherligelse af KI og tro på, at teknologien løser alle problemer.

De europæiske demokratier skal finde en intelligent måde at omgås intelligent teknologi på, og vi skal tage hensyn til såvel den økonomiske velstand som til beskyttelsen af borgernes privatsfære.”

”Det er nødvendigt, at vi lærer at prioritere vores opmærksomhed bedre. Vi skal bruge mindre tid på maskinerne og i stedet for beskæftige os mere med de mennesker, vi elsker. Samtidig er vi nødt til at acceptere robotterne, hvor de er nødvendige. Efter min mening er det for eksempel et moralsk imperativ at indsætte dem de steder, hvor de gør verden bedre. Hvis vi for eksempel kan mindske antallet af trafikofre ved at tillade selvkørende biler, er vi nødt til at gøre det. Og hvis børn fra fattige områder kan lære at regne ved hjælp af en robot som Pepper, har vi ikke lov til at nægte dem denne hjælp og blot sidde og jamre over, hvor dejligt det da ville være, hvis der fandtes flere menneskelige matematiklærere.”