Tre skelsættende romaner fra det 20. århundrede var George Orwells ”1984”, Franz Kafkas ”Processen” og J.R.R. Tolkiens ”Ringenes Herre”. De udkom i henholdsvis 1949, 1925 og 1954 – længe før internettet blev opfundet. Men måske kan bøgerne bruges til at beskrive nogle af internettets mindre ønskelige effekter.
”1984” beskriver et fremtidssamfund, hvor borgerne er under altomfattende overvågning og social kontrol af en totalitær magthaver. ”Processen” skildrer en borger, som er genstand for et uigennemskueligt, kontrollerende bureaukrati, som lader ham forstå, at han er under anklage, men ikke ulejliger sig med at fortælle ham for hvad og hvorfor. ”Ringenes Herre” er et eventyr, hvor friheden og menneskeligheden trues af den onde Sauron. Et af hans magiske redskaber er en ” palantir”, en slags krystalkugle, som kan bruges til at kommunikere, men som Sauron også bruger til at gennemskue og blotlægge mennesker dybt ind i deres sjæl.
Det er ikke sådanne verdener, vi lever i. Men hvis man filosoferer over de seneste årtiers digitalisering, kan man finde flere uheldige tendenser, som risikerer at styre os tættere på ”Digital totalitarisme” – som titlen er på en ny bog om emnet. Bogen er skrevet af Mads Vestergaard, filosof og ph.d.-stipendiat ved Københavns Universitet, og rummer blandt andet en kritik af de seneste danske regeringers håndtering af digitaliseringen.
”Både den forrige, socialdemokratisk ledede regering og den nuværende, borgerlige regering har været ganske digitaliseringsparate og -optimistiske. Så der mangler en reel digitaliseringsopposition i Danmark. Jeg prøver i bogen at vise, at der er en udvikling i gang, som vi bør være opmærksomme på, hvis vi sætter pris på den grundlæggende samfundsmodel, vi har, hvor den myndige borger står stærkt. Det er en vigtig samtale om vores fælles fremtid, som vi skal tage os tid til. Til trods for hele den herskende fortælling om, at digitaliseringstoget alligevel ikke er til at stoppe, og at vi – hvis vi ikke hopper på – bliver kørt over eller efterladt på perronen,” siger Mads Vestergaard.
I bogen gengiver han en sigende freudiansk fortalelse – måske – af daværende erhvervsminister Brian Mikkelsen (K), da denne i 2017 præsenterede planen ”Strategi for Danmarks digitale vækst” med ordene: ”Vi har fuldt firspring på, næsten hovedet under armen, fordi der ligger kæmpe perspektiver for Danmark i at udnytte digitaliseringens mange muligheder.”
Filosoffen føler sig ikke så betrygget af en regering, der selv siger, den næsten har hovedet under armen. Han er bekymret for det uigennemtænkte hastværk, som kendetegner digitaliseringen.
Det er tilfældigt, at bogen udkommer, netop som der er valgkamp. Men når nu det er sådan, vil han gerne slå et slag for, at folketingskandidaterne gør digitaliseringen til et bærende tema ved folketingsvalget. Han advokerer også for, at Danmark får, hvad han kalder en digital grundlov.
”Noget af det, som virkelig gør en forskel for, at vi har et frit samfund, er de grundlæggende borgerrettigheder, som er nedfældet i vores grundlov og øvrige lovgivning. Et problem med den digitale udvikling er, at den løbende undergraver den lovgivning, som skal beskytte borgerne, men er blevet forældet på mange punkter. Derfor er politik i form af solid lovgivning, som sikrer borgernes rettigheder i den digitale tidsalder, for mig at se det, der skal være kuren imod tendenserne til digital totalitarisme,” siger Mads Vestergaard og tilføjer:
”Vores forhold til digitaliseringen, og hvordan vi agerer – eller undlader at agere – i forhold til tech-giganterne, er afgørende for vores demokrati og lighed for loven på længere sigt. Hvis det passer, at digitaliseringen er ved grundlæggende at ændre samfundet – og det gør det nok – så er det da et vigtigt politisk emne, hvilket fremtidigt digitalt samfund vi ønsker os. Hvor meget overvågning og social kontrol vil vi acceptere, bare fordi teknologien nu er til det?”.
Men hvad er det så, tech-giganter og markedsaktører gør, der kan aktivere filosoffens advarsler? Vi lever jo netop ikke i ”1984”.
”Vi er ikke på vej mod et Big Brother-samfund som det, George Orwell beskrev. Det drejer sig jo ikke om tortur i kærlighedsministeriets kældre, hvor man skal lære, at det kun er Big Brother, man skal elske. I den nye, digitale version af totalitarisme er metoderne til kontrol baseret på folks lyst til bekvemmelighed og på de dopamin-kick, man hele tiden får på internettet og de sociale medier. Man opdrages ikke med tæsk, men med godbidder. Men det ændrer ikke på, at den digitale overvågning forandrer magtforholdene i samfundet. Når stat og marked lærer borgerne lidt for godt at kende og får nye måder at effektivt påvirke deres adfærd på, tipper det magtbalancen til deres ufordel,” forklarer Mads Vestergaard og tilføjer:
”Selvom der er lang vej fra de tendenser, vi kan se udfolde sig i dag, til orwellske skræmmescenarier, går udviklingen den forkerte vej, hvis man værdsætter et demokratisk samfund og en retstilstand, hvor borgeren har fat i den lange ende.”
Centralt i overvågningen står statsmagten, men i høj grad også tech-virksomheder som Google og Facebook, som vi frivilligt giver kolossale mængder af oplysninger om os selv, og som staten samarbejder med med det resultat, at der er endnu mere personlig information tilgængelig. Den information kan misbruges på markedet, påpeger Mads Vestergaard og nævner som eksempler, at der i USA er blevet solgt lister over ludomaner og demensramte ældre til målrettet marketing, og at forsikringsselskaber er begyndt at opkøbe helbredsdata fra fitness-app’er for at kunne sortere i kunderne til sygeforsikringer.
Tech-virksomhedernes dataindsamling giver frit udsyn til vores mest private rum, men selv forbliver de skjulte.
”I Kafkas ’Processen’ er hovedpersonen under anklage, men ved ikke, hvem der dømmer ham og for hvad. Det sker bag lukkede døre. I USA er denne tendens stærkere end i Europa, fordi de har et friere informationsmarked, men også her ser vi tendenser til, at personlig information bliver tilgængelig for virksomheder, som selv har mulighed for at gemme sig. Dermed opstår en situation som svarer til et forhørslokale med envejsspejle. De kan se os, men vi kan ikke se dem. Og alt, hvad man gør, kan og vil blive brugt imod én,” forklarer Mads Vestergaard.
Hvis man ser på Kina, kan man ifølge Mads Vestergaard se et skræmmebillede af digital totalitarisme på vej til at blive virkelighed. Her er et såkaldt socialt kreditsystem under udarbejdelse, der går ud på, at stat og tech-virksomheder samarbejder om at dele information om borgerne med henblik på at kunne belønne hensigtsmæssig og straffe uhensigtsmæssig adfærd.
”Da internettet kom til verden, troede man længe, at magtbalancen mellem statsmagt og individ ville tippe til individets fordel, og at diktaturstater nødvendigvis ville falde. Med reference til Kina sagde USA’s daværende præsident Bill Clinton i 1990’erne, at det at ville kontrollere internettet svarede til at ville sømme syltetøj fast til væggen. Når vi ser på Kina i dag, må vi sige, at de rent faktisk ser ud til at have fundet de søm, der skal til,” siger Mads Vestergaard og tilføjer:
”De sociale kreditsystemer prøver at knytte folks adfærd – hvordan de opfører sig socialt, økonomisk og måske også politisk – til, hvilke livsmuligheder de rent faktisk har. Det handler om at skabe stærke incitamenter. Det at være en lydig, velopdragen borger vil altid kunne betale sig. Der er i Kina en lang liste over såkaldte ’alvorlige tillidsbrud’, som skal koste. Det er lige fra overtrædelser af fødevaresikkerheden eller korruption til at skabe ’uorden online’. For eksempel er der nogle steder i Kina, hvor det at sprede usande rygter koster borgeren det samme som at overtræde straffeloven. Det medfører, at borgere lægger bånd på sig selv af frygt for ikke at kunne rejse eller få deres børn ind på en god privatskole,” fortæller Mads Vestergaard.
Han er fuldt klar over, at Danmark ikke er Kina. Men Kina er en magt, vi frygter for sin krænkelse af individet og samtidig beundrer for sin økonomiske effektivitet. Det sidste sætter os under pres.
”Når vi frygter den udvikling, der er i Kina – med rette – bør det være anledning til at se, hvordan de samme fænomener og tendenser er under udvikling i vestlige samfund. Når det for eksempel foreslås, at der indgås offentlig-private samarbejder med elselskaberne for at overvåge arbejdsløse i deres hjem, er det et skridt i retning af den form for datadrevet social kontrol, som frygtes og kaldes totalitær, når det foregår i Kina,” siger Mads Vestergaard, som også i nogle af de nyligt vedtagne lovtiltag rettet mod hadprædikanter og russisk desinformation ser indskrænkninger i borgernes ytringsfrihed.
”Vi skal ikke digitalisere så hurtigt, at vi bliver blinde for de negative konsekvenser. Vi har lidt for stor tillid til de store tech-giganter. Måske har vi lyttet lidt for meget til dem og deres skønsang om at forbinde verden og gøre den til et bedre sted. Uden at have blik for, at for eksempel Googles ”street view”-biler i Tyskland har kørt rundt og suget data fra private netværk. Uden at overveje, hvad det kan betyde for danskernes retssikkerhed og lighed for loven, at dansk politi samarbejder med Palantir om forudsigende politiarbejde,” siger filosoffen.
Det sidste refererer til en amerikansk tech-virksomhed, Palantir Technologies, grundlagt af Peter Thiel i 2004, som arbejder med dataanalyse i samarbejde med militær, efterretningstjenester og politi om at finde frem til mulige trusler via internettet, og som på 15 år er blevet et milliardforetagende.
Navnet er ingen tilfældighed. Virksomheden er opkaldt efter de magiske seer-sten fra ”Ringenes Herre”.
Som borgere kan vi kun håbe på, at den magthaver, der fra en skjult position via computerens algoritmer får lov til at se lige ind i vores inderste sjæl, er en ansvarsbevidst, demokratisk stat under solid folkevalgt kontrol. Hvis magthaveren minder bare lidt om Big Brother eller Sauron, er vi fortabt.