I de seneste 10 år er der sket en eksplosiv udbredelse af maskiner, der lærer af andre maskiner. Tanken om kunstig intelligens har skiftevis fascineret og skræmt mennesker, og nu er vi tættere på at gøre tanken til virkelighed end nogensinde før. Det rejser en lang række dilemmaer, som forfatteren Peter Svarre forsøger at tackle i sin bog ”Hvad skal vi med mennesker?”, der udkom i går.
Titlen på din bog rummer jo et godt spørgsmål i sig selv. Er maskinerne klar til at tage over, eller har vi stadig brug for mennesker her i 2019?
”Hele idéen om, at maskiner bliver så menneskelignende, selvbevidste og superintelligente, at de gør mennesker fuldkommen overflødige, er meget tæt på fri fantasi. Kunstig intelligens er en teknologi ligesom så mange andre.
Det interessante er, at teknologien nu begynder at brede sig ud på nogle områder, hvor den ikke tidligere har været. Det vil sige, at der vil blive flere og flere arbejdsopgaver, hvor mennesker bliver overflødige – også på komplekse områder som sagsbehandling eller bilreparation.
Det er en helt konkret udfordring, som vi bliver nødt til at forholde os til på vores arbejdspladser inden for de næste 10 til 20 år.”
Hvordan har dit syn på kunstig intelligens rykket sig i arbejdet med bogen?
”For mig startede fascinationen med tanken om superintelligente maskiner. Det er en dybt fascinerende og meget filosofisk diskussion, som tvinger os til at reflektere over, hvad vi forstår som menneskelig intelligens og sjæl. Når man så taler med forskere på området, finder man ud af, at kunstig intelligens i virkeligheden handler om maskinlæring – algoritmer, der automatisk kan finde mønstre og sammenhænge i store mængder af data.
Pludselig går det op for én, at faren ikke består i maskiner, der bliver bevidste og superintelligente, men at vi sætter nogle statistiske systemer til at bestemme mere og mere i vores verden.”
Hvordan har kunstig intelligens allerede forandret vores samfund?
”Almindelige mennesker møder oftest kunstig intelligens i hverdagen på sociale medier. De fleste mennesker bruger jo Facebook, og når man kigger på sin nyhedsstrøm, så er den udvalgt af en kunstig intelligens på baggrund af statistiske data.
Her er det vigtigt ikke at være naiv, da det sker uden nogen etiske overvejelser om dine interesser. Algoritmen er fuldstændig ligeglad med mine værdier, såsom at være en god far. Det eneste, der betyder noget for algoritmen, er, om Facebook tjener penge.
I din bog beskriver du dilemmaet med dataetik i selvkørende biler. Hvem skal bilen redde i en eventuel ulykke – dig selv eller en fodgænger? Det afhænger af, hvordan man koder bilen. Men kan man overlade noget så vigtigt som liv og død til kodning?
”Det er der ingen tvivl om, at man både kan og skal. Når det lykkes os at udbrede selvkørende biler, vil vi opleve, at trafikdød falder til tæt på nul i Danmark. På verdensplan vil det redde mange millioner mennesker fra at dø i trafikuheld. Så selvfølgelig skal vi gøre det.
Men der er nogle etiske spørgsmål, som vi må tage stilling til – og som vi aldrig må tro, at vi kan løse endegyldigt. Vi bliver nødt til at blive ved med at tvivle og stille spørgsmål. I det øjeblik, vi bilder os selv ind, at vi har opfundet en etisk perfekt algoritme, så har vi allerede bevæget os ud ad et autoritært sidespor.”
Herhjemme har vi et interessant eksempel i form af Skats EFI-system, der skabte en skandale ved automatisk at lave ulovlig inddrivelse af forældet skat. Senere meddelte leverandøren KMD, at systemet lavede procentvis færre fejl end ved manuel inddrivelse. Hvorfor har vi så svært ved at håndtere maskinelle frem for menneskelige fejl?
”Vi har en idé om, at computere er ufejlbarlige, logiske maskiner. Når vi ser en maskine tage fejl, har vi en tendens til at miste tillid, men vi må vænne os til, at fremtidens kunstige intelligenser vil tage fejl en gang imellem, da de er baseret på statistik.
I det øjeblik vi sætter selvkørende biler på vejene, vil der være et ramaskrig, hver eneste gang et menneske bliver slået ihjel af en maskine, selvom den overordnede statistik forbedres. Derfor bliver maskinerne nødt til at præstere markant bedre end mennesker, før man sætter dem til at tage beslutninger på egen hånd.”