De etiska utmaningarna med AI måste hanteras

Det finns stora förväntningar om att artificiell intelligens (AI) kan bidra till att lösa framtidens utmaningar inom hälso- och sjukvården. Samtidigt är AI en teknik som väcker många frågor, inte minst etiska. AI har klassats som en av de framväxande teknologier som har störst nyttopotential, men också medför högst risk för negativa konsekvenser.

I Statens medicinsk-etiska råds (Smers) publikation Kort om Artificiell intelligens i hälso- och sjukvården beskrivs olika tillämpningar av AI i hälso- och sjukvården, några som redan används, många som är under utveckling och ytterligare andra som är tänkbara på sikt. Rådet analyserar etiska och samhälleliga aspekter på AI i hälso- och sjukvården och beskriver några av de utmaningar som teknologin medför.

Några exempel på utmaningar är:

  • Hur AI-system i vården ska kvalitetssäkras, godkännas och följas upp
  • Hur ansvaret ska fördelas när allt fler beslut i vården fattas av datasystem och inte av människor
  • Hur systemen kan göras transparenta, så att patienter och vårdanställda kan lita på dem
  • Hur patientautonomin kan skyddas och integriteten värnas

Smers budskap är att de etiska utmaningarna inte får uppfattas som hinder för innovation utan som något som kan stimulera utvecklingen av tillämpningar som främjar gemensamma mål och intressen.

Smer 2020:2 Kort om Artificiell intelligens i hälso- och sjukvården