Ekspert og medunderskriver i åbent brev: Udviklingen af kunstig intelligens må sættes på pause nu

Er vi ved at udvikle kunstige hjerner, der kan ende med at erstatte os? Hans Hüttel, ekspert i datalogi, bidrager til international advarsel mod kunstig intelligens

Ekspert og medunderskriver i åbent brev: Udviklingen af kunstig intelligens må sættes på pause nu
Foto: Privat.

Tech-milliardær Elon Musk og en lang række eksperter har i et åbent brev opfordret til, at man sætter udviklingen af kunstig intelligens (AI) på pause. Det skal ske for at forhindre, at "vi mister kontrollen over vores civilisation". Lektor ved Datalogisk Institut på Københavns Universitet og  Institut for datalogi ved Aalborg Universitet Hans Hüttel er en af dem, der har skrevet under.

Den nye sprogrobot ChatGPT-4 kan skrive som et menneske. Hvorfor bør udviklingen af den slags kunstig intelligens sættes på hold, Hans Hüttel?

Fordi vi ikke kender de juridiske, etiske og menneskelige konsekvenser af den nye kraftfulde, kunstige intelligens på længere sigt. Som vi skriver i det åbne brev, kan udviklingen for eksempel ende med at fratage mennesker deres meningsfyldte arbejde. Og er det virkelig det, vi vil? Det er bekymrende, hvis vi tillægger maskiner menneskelige egenskaber og tror, at vi kan erstatte vidensarbejdere.

I foreslår en pause på seks måneder?

Det er ikke vigtigt, om det er lige seks måneder. Det er et signal om, at brugen af teknologien kræver omtanke. Dansk lovgivning regulerer, hvordan cykler skal se ud, og hvordan lægemidler skal anvendes, men her kommer en teknologi, som hævder, at toget afgår nu. Der er en underlig tendens til at tale om teknologien som noget, der falder ned fra himmelen, og at den skal vi da bare bruge. 

Sprogrobotten er specialiseret i dialog. Som et eksperiment bad mediet Altinget robotten formulere et svar til psykolog Svend Brinkmann, som havde skrevet kommentaren "Intelligente robotter truer ikke vores plads i verden, men vores evne til at eksistere i den". Robotten svarede blandt andet, at Brinkmann skulle huske på, "at kunstig intelligens allerede er i stand til at udføre en række opgaver, der tidligere kun var forbeholdt mennesker". Hvordan kan den argumentere? 

Den bygger sine svar på enorme mængder af tekster. Så den ved - og jeg kvier mig ved at bruge ordet "ved", for det er bare et program - hvilke ord, der med stor sandsynlighed skal følge de ord, den har skrevet i "svaret". Men den autogenererede tekst er også rutinepræget. Lad mig komme med et eksempel fra den virkelige verden: Da jeg cyklede ind til universitetet, blev jeg overhalet af en bus. Og det er ikke så sært, for en bus er designet til at køre hurtigere end en cyklist, så det er rutinepræget dataanalyse, der ligger bag det faktum. Der sker nu også, at robotten svarer noget nonsens. Forleden spurgte jeg for sjov GPT, om man skulle tage tøjet af, før man gik i bad, og den vævede rundt i, at ja, for ellers kunne man ikke blive ordentlig ren, der hvor tøjet var, og i øvrigt ville det blive vådt. 

Så vi skal være mere kritiske?

Ja, det er fuldstændig nødvendigt. Man kan sammenligne det med dengang i 1960'erne, hvor sprøjtemidlet DDT var populær. Først for sent opdagede man, hvor skadelig sprøjtegiften var. Det er det samme med teknologien. Der vil komme nogle tragiske konsekvenser, som man ikke har tænkt over.

Metro og letbaner kører ved hjælp af intelligent trafikstyring. Tager du selv letbanen?

Det har jeg gjort, fordi det er offentlig transport. Men jeg må indrømme, at jeg deler bekymringen for selvkørende biler, fordi der er så mange juridiske og etiske forhold, som ikke er afklaret.