Prøv avisen

Kan intelligente robotter være onde?

Ifølge Stephen Hawking er medierne ofte misvisende i forhold til, hvad truslen ved kunstig intelligens er. Robotter er nemlig ikke onde, de er bare kompetente. Foto: jim - Fotolia

Professor Stephen Hawking mener, at kunstig intelligens enten kan være det bedste eller det værste, der er sket for menneskeheden

I sommers skrev den berømte professor i matematik og teoretisk fysik Stephen Hawking et åbent brev, hvor han advarede verdens ledere om, at kunstig intelligens ikke bør misbruges til at udvikle militære våben, der tænker selv.

Kort tid efter var det muligt at stille ham alverdens spørgsmål om kunstig intelligens på det verdenskendte internetforum Reddit. Spørgsmålene væltede ind, og nu er svarene her endelig, skriver Videnskab.dk.

 Et af de spørgsmål, der går igen, er spørgsmålet om, hvorvidt kunstigt intelligente maskiner kan være onde.
 
En lærer skriver, at han tit bliver mødt af denne opfattelse fra sine elever, men er der noget om det, eller overdriver medierne? Brugeren 'Thisisjustsomewords' skriver:

»Når jeg underviser om kunstig intelligens, så ender min klasse og jeg altid med at have den snak, jeg kalder for 'Terminator-snakken'. Her forklarer jeg mine elever, at medierne overdriver, og at kunstig intelligens ikke kan være ond, men blot prøver at optimere en funktion, som vi mennesker selv har skrevet og designet. Er jeg naiv, eller hvordan ville du præsentere din egen overbevisning over for min klasse?«

Læs mere på Videnskab.dk: Forsker: Robotter er hverken bevidste eller onde

Ifølge Stephen Hawking er medierne ofte misvisende i forhold til, hvad truslen ved kunstig intelligens er. Robotter er nemlig ikke onde, de er bare kompetente.

»Du har ret, medierne er ofte vildledende i forhold til, hvad man rent faktisk frygter ved kunstig intelligens. Risikoen ved AI (kunstig intelligens red.) er ikke ondskab, men kompentence. En superintelligent AI vil være ekstremt god til at opnå dens mål, og hvis disse mål ikke er de samme som vores, så får vi problemer. Du er nok ikke en ondskabsfuld myrehader, der træder på dem ud fra onde intentioner, men hvis du leder et grønt energiprojekt, og en myretue bliver oversvømmet, så er det bare ærgerligt for myrerne. Lad os ikke lade os mennesker være den myretue. Derfor bør du ikke bare opmuntre dine elever til at lære, hvordan man udvikler AI, men også hvordan man kan bruge den fordelagtigt,« skriver Stephen Hawking.

Læs mere på Videnskab.dk: Ondskaben er sat på ny formel

En anden bruger undrer sig over advarslen om kunstig intelligens nu. Brugeren 'fat-chunk' mener nemlig ikke, at vi overhovedet er i nærheden af at kunne udvikle robotter med en bevidsthed.
 
»Idéen om et bevidst eller rent faktisk intelligent system, som kan udgøre en eksistentiel trussel mod mennesker, virker meget fremmed for mig, og det virker ikke som noget, vi er i nærheden af at udvikle fra hverken et neurologisk eller datalogisk standpunkt. Så det jeg ville spørge om var, i din besked taler du så om en nutidig udvikling, eller et gennembrud vi er tæt på, eller prøver du at fortælle os, at vi bør forberede os tidligt på noget, som uundgåeligt vil komme til at ske?«

Læs mere på Videnskab.dk: Forskere: Hold dig fra sex med robotter

Her lyder svaret fra Stephen Hawking:
 
»Det sidste. Der er ingen enighed blandt AI-forskere om, hvor lang tid det vil tage at bygge AI på menneske-niveau, så du skal endelig ikke stole på nogen, der skråsikkert påstår, at det vil ske eller ikke vil ske i din levetid. Men når det engang sker, så bliver det sandsynligvis enten det bedste eller det værste, der nogensinde er hændt menneskeheden. Så der er enorm værdi i at gøre det rigtigt. Vi bør ændre vores mål om blot at skabe retningsløs kunstig intelligens til at udvikle fordelagtig intelligens. Det tager nok nogle årtier at finde ud af, hvordan vi gør det, så lad os begynde at forske i det i dag i stedet for at vente, til natten før den første AI-robot tændes,« svarer han.
 
En af de mest udbredte skrækscenarier i science fiction-film og litteratur er robotter, der overtager planetens ressourcer og gør mennesket til slaver.
 
Men en biolog på Reddit undrer sig over, hvorfor en kunstig intelligens overhovedet skulle have en lyst til at tilrane sig ressourcer og sørge for sin egen arts overlevelse, da det jo er en biologisk drift.

Læs mere på Videnskab.dk:  Kunstig intelligens lærer sig selv at slå mennesker i videospil

Han mener selv, at grunden til at biologiske arter konkurrerer på denne måde, er fordi, der er sket milliarder af års selektion af de individer, som formåede at skaffe flest ressourcer og dermed overleve. Men hvorfor skulle en AI have samme tilbøjeligheder? 'ChesterfieldChesterfield' skriver:
 
»Der er ingen grund til at tro, at AI-væsner vil være interesserede i at reproducere overhovedet. Hvad tror du, en AI ville være interesseret i at lave, og hvorfor er det nødvendigvis en trussel for menneskeheden, som opvejer fordelene ved at skabe denne slags velvillige 'Gud''«

For flere spændende artikler om ny forskning tilmeld dig Videnskab.dk’s gratis nyhedsbrev her: