Prøv avisen

Det store dilemma kommer, når vi fjerner det menneskelige element

Robotter og kunstig intelligens kan blive en hjælp for sundhedsvæsenet, men også stille os i store etiske dilemmaer, siger Leif Panduro Jensen, centerdirektor for Finsencentret på Rigshospitalet. Grafikken viser, hvordan en operation snart kan udføres som et samarbejde mellem menneske og maskine. Kirurgens bevægelser overføres til robotarmene, så snittet lægges så præcist og skånsomt som overhovedet muligt. Bedøvelsen bliver styret af computeren under overvågning af en læge. Foto: Claus Lunau/ Science Photo Library/Ritzau Scanpix

Sundhedsvæsenet skal tage den kunstige intelligens til sig, siger Leif Panduro Jensen, centerdirektør på Rigshospitalet. Men de store etiske dilemmaer vil ramme os den dag, robotterne kan arbejde uden menneskelig indblanding, mener han

For ikke så lang tid siden hørte Leif Panduro Jensen om et interessant dilemma, som forskere på Aarhus Universitet havde sat en række personer i: Hvis en selvkørende bil kom ud for en situation i trafikken, hvor den havde valget mellem at køre ti personer ned, herunder børn, eller tage et sving, hamre ind i en væg og kun dræbe føreren, hvad skulle den så vælge? Et stort flertal svarede, at den selvkørende bil skulle ofre den person, der sad i den. Adspurgt om de selv ville købe sådan en bil, svarede majoriteten nej.

Det satte tanker i gang hos centerdirektøren på Finsencentret på Rigshospitalet i København. På Leif Panduro Jensens afdeling forskes der i kunstig intelligens som hjælp til sygeplejersker og læger, og dilemmaet om den selvkørende bil kan på mange måder overføres til sundhedsvæsenet. For det kan godt være, at vi mennesker engang kan lade robotterne overtage kirurgiske operationer. Men hvis Leif Panduro Jensen selv fik valget, ville han da helst have, at der var et menneske af kød og blod til stede.

”Jeg tror, teknologien til det bliver realistisk i fremtiden. Men hvem står med ansvaret, når robotten laver fejl?”, spørger Leif Panduro Jensen, der selv er uddannet speciallæge i karkirurgi.

Han er ellers ikke modstander af kunstig intelligens. Langt fra. Vi må tage teknologien til os, mener centerdirektøren, for den kommer til at ændre radikalt på vores måde at tænke sundhedsvæsen på i fremtiden. Robotterne kommer til at hjælpe læger, sygeplejersker og kirurger og skabe en helt ny sundhedsfaglig virkelighed for den almindelige borger.

”Kunstig intelligens vil ændre på lægernes opgaver, vores måde at uddanne på og på balancen mellem offentligt og privat sundhedsvæsen. Som det er i dag, kommer der flere og flere sundhedsapplikationer til mobiltelefoner, der er baseret på kunstig intelligens, og hvor man før skulle sidde i telefonkø hos lægen, kan man nu på internettet spørge en algoritme. Den giver på en række områder et lige så kvalificeret svar. Der findes allerede applikationer på mobilen, hvor man kan tage billeder af modermærker og sende ind og få svar på, om der er risiko for modermærkekræft. I løbet af få år kan du sætte dig ved din computer, gå ind på en form for netdoktor med kunstig intelligens og indtaste, at du måske har følt dig træt og sveder hver nat, måske kan vores mobiltelefoner til den tid tage blodprøver og undersøge hjertet. Så kan du få det svar, du før skulle til lægen for,” siger Leif Panduro Jensen.

Men vi skal samtidig være opmærksomme på faldgruberne.

På Finsencentrets afdeling har man afprøvet robotten Watson Oncology, fremstillet af IBM, på fiktive patienter. Robotten kan gennemgå tusindvis af journaler og dokumenter på et splitsekund og på den baggrund foreslå den bedste behandlingsform. En tredjedel af Watsons anbefalinger var lægerne enige i, en tredjedel var de delvist uenige i, og den sidste tredjedel af Watsons anbefalinger indebar en risiko for at slå patienten ihjel.

”Holdningen hos mig har været, at Watson ikke var tilstrækkelig udviklet til at kunne give mening at tage ind som en del af det, vi bruger. Men teknologien er enormt spændende, og jeg har tit sammenlignet det med, når vi får unge læger ind. Så er det i starten heller ikke de mest kvalificerede forslag, de kommer med, men i løbet af fire-fem år er de blevet til erfarne speciallæger. Det er det samme, jeg forventer af denne teknologi. Præmissen var, at firmaet mente, vi fik et færdigt produkt, klar til brug i dagligdagen, og der blev vi skuffede. Men teknologiens potentiale er enormt,” siger Leif Pan- duro Jensen om maskinen, der i løbet af 2018 bliver afprøvet til screening af brystkræft på Gentofte- og Herlev Hospital.

Oplevelsen med Watson eksemplificerer på mange måder den grundudfordring med robotter i sundhedsvæsenet, som Leif Panduro Jensen mener ligger foran os. Det kan godt være, vi får et mere sikkert system, men vi får ikke et ufejlbarligt system.

”Hvis vi overlader beslutningerne til maskinen, og den selv begynder at ændre de regler, den arbejder efter og dermed giver bedre resultater, er det jo i udgangspunktet godt. Men hvad nu, hvis det, som maskinen har fået øje på, var noget, vi som læger og sygeplejersker kunne gøre noget ved? Vi får ikke den viden fra den kunstige intelligens. Løsningen er at trække informationerne ud og finde ud af, hvad den har lært og ændret,” siger han og påpeger, at det er et problem.

”Det er svært, for den kunstige intelligens udvikles af store private virksomheder. Når vi anvender kunstig intelligens, er vi med til at støtte dem. Spørgsmålet er, om vi vil det som samfund,” siger Leif Panduro Jensen.

Han drager i den forbindelse paralleller til medicinalbranchen, hvor private virksomheder tjener milliarder af kroner på medicin.

”Vi tager medicin ind, afprøver det, og når det viser sig, at det er rigtig god medicin, skal vi måske betale over en million kroner om året for den. Hvis firmaerne bygger den kunstige intelligens op, skal vi måske skal betale 100 millioner kroner om året for at få adgang til modellen. Der ligger nogle etiske overvejelser i, om vi vil have det sådan,” siger Leif Panduro Jensen.

Men trods de etiske dilemmaer, der følger med robotternes rivende udvikling, understreger Leif Panduro Jensen, at vi i fremtiden vil få enorm gavn af den nye teknologi. Vi må blot hen ad vejen holde et vågent øje med den, så situationen ”ikke løber os af hænde”.

”Jeg tror for eksempel, der går mange år, før robotterne bliver i stand til at arbejde helt uden det menneskelige element. Men igen: Hvis man for 30 år siden havde forsøgt at gætte, hvor langt internettet ville være kommet i dag, ville man jo have gættet forkert,” siger Leif Panduro Jensen.

Kunstig intelligens kommer til at forandre hele sundhedsystemet, mener Leif Panduro Jensen, centerdirektor for Finsencentret på Rigshospitalet. Foto: Rigshospitalet