people discussing

Smers etiksamtal i Almedalen: AI och robotar i vården

Artificiell intelligens (AI) kan bli ett verktyg för hälso- och sjukvården vid bl.a. diagnosticering, screening och behandling. Men vilka är de etiska fallgroparna? Hur skapar man användbar teknik som kommer patienterna till nytta? Och kan man med hjälp av artificiell intelligens både minska kostnaderna i vården och hjälpa de allra mest utsatta patienterna? Detta diskuterades vid Smers frukostseminarium i Almedalen om AI och robotar i vården.

Kjell Asplund, moderator vid samtalet och ordförande i Smer, inledde med att ställa frågan om det är flera apparater i vården vi behöver eller om det tvärtom krävs mer mänsklig intelligens. Han pekade på att robotar å ena sidan kan underlätta för vårdpersonal och patienter men att det å andra sidan krävs en etisk reflektion vid utveckling och programmering av robotar och AI.

Marie Steen, styrelseledamot i Funktionsrätt Sverige och sakkunnig i Smer, lyfte fram vikten av att patienterna involveras redan under innovationsprocessen. På detta sätt kan tekniken utvecklas utifrån patientens förutsättningar och behov. Hon pekade också på bristen på kunskap hos patienter när det gäller AI och att Funktionsrätt Sverige jobbar för att få till stånd en utbildning för patienter och närstående i syfte att minska kunskapsglappet.

Max Gordon, ortopedspecialist, som jobbar med utveckling av AI-program och algoritmer vid Karolinska Institutet, menade att det är viktigt att särskilja olika AI-applikationer och analysera dem var för sig. Han ansåg att användning av AI-teknik kan vara intressant i vissa specifika områden inom vården, t.ex. för analys av födelsemärken, medan det t.ex. inte är relevant att tro att sjuksköterskekrisen kommer att lösas med hjälp av AI. På sikt trodde han att arbetet som röntgenläkare kommer att bli roligare då vissa monotona arbetsmoment kommer att automatiseras.

Max Gordon lyfte också fram teknikhetsen som råder när det gäller AI och att vissa sjukhus köper in t.ex. operationsrobotar för att behålla personal. Det viktiga menade han är att vi ställer oss frågan vad tekniken kan göra för patienten och för vårdpersonalen. Och att de lösningar man köper in har vetenskapligt stöd. AI-applikationer kanske inte kommer att vara supersmarta men de har potential att underlätta det vardagliga arbetet i hälso- och sjukvården. Han framhävde också vikten av att forskare involverar patienter i utvecklingsprocessen med att ta fram en algoritm. Vilka mål vill man uppnå?

Amy Loutfi, professor i informationsteknologi och robotforskare vid Örebro universitet, berättade att hennes specialitet är att arbeta i gränssnittet mellan människa och maskin. Hon pekade på några av de utmaningar som finns bl.a. när det gäller lösningar kopplade till vår hemmiljö, som ser olika ut och där det finns många olika förväntningar på tekniken. Hon lyfte också fram vikten av att forskare samarbetar med olika intressenter och att det finns diskussionsforum där behov och lösningar kan diskuteras. En annan aspekt är att man måste våga testa tekniken i sin äkta miljö för att se om den är ändamålsenlig.

Amy Loutfi menade vidare att mycket av den tekniska utvecklingen idag sker inom de stora företagen, men att även andra borde vara mer proaktiva och avsätta särskilda medel för att hitta nya skräddarsydda lösningar. Hon framhöll också att de aktörer som kommer att bli framgångsrika är de som hittar sätt att tillämpa AI så att det blir användbart. Tekniken måste vara tillgänglig för användarna annars riskerar systemet att bli värdelöst. Hon framhävde även vikten av att tidigt diskutera etiska frågor för att tekniken inte ska få oönskade effekter och behovet av att skydda datan som AI-programmen använder sig av. När det gäller frågan om vem som bär ansvaret om en AI-applikation fattar fel beslut, menade hon att det kommer dröja lång tid innan AI kan agera på egen hand. Hon berättade att det kommer att krävas ”mänskliga barnvakter” som kontrollerar besluten och att det där finns potential för att skapa nya yrken.

Karim Jebari, fil. dr. i filosofi vid Institutet för framtidsstudier, anförde att det finns stora utmaningar i vården idag, dels pga. kostnadsökningar, dels pga. att det finns en stor grupp människor som behöver vård men som inte får det. Han hänvisade till att personer med psykisk sjukdom och kronisk smärta i mindre utsträckning än andra söker vård för sina besvär, samtidigt som vårdkonsumtionen ökar när det gäller lindriga åkommor. Han ställde frågan hur man kan använda AI för att förbättra vården till dem som behöver det mest, t.ex. för suicidprevention. Samtidigt, menade han, kräver tekniken en stor mängd data och man måste därför också diskutera datadelning och datalagring.

Han menade vidare att utvecklingen av AI idag är inspirerad av science fiction och att fokus är på robotar som ska kunna alltför många saker. Han ansåg därför att en del av lösningen är att i stället jobba på mer avgränsade lösningar. Han lyfte fram att AI har en enorm potential t.ex. när det gäller effektiv planering och logistik av välfärdssatsningar. När det frågan om etiska robotar, menade han att AI inte kan jämföras med en människa som gör etiska reflektioner, utan att det bästa sättet att kontrollera AI är att skapa ramar och begränsningar för tekniken.

Det var också flera som lyfte fram behovet av en nationell samordning kring införande av nya och dyra tekniska lösningar. Detta för att undvika att dyr teknik köps in som senare visar sig inte ha någon patientnytta och ibland till och med kräver en ökad arbetsinsats från vårdpersonalen. Det föreslogs att Sveriges Kommuner och Landsting möjligen kunde ha en sådan roll.

Kjell Asplund avslutade med att understryka vikten av att tänka efter före och påminde om Smers pågående projekt som handlar om interaktionen mellan människa och ny teknik.

Se webbfilm från seminariet.