Artificiell intelligens– löftesrik teknik med etiska utmaningar

Beskrivelse

Förord
Det sägs att världen står inför den fjärde industriella revolutionen,
som kännetecknas av sakernas internet, artificiell intelligens och
robotteknik. Artificiell intelligens (AI) tillskrivs ett datorsystem
eller en maskin och utvecklingen av AI går snabbt och spänner över
många områden. För hälso- och sjukvårdens del kan AI bli ett viktigt
verktyg vid bl.a. diagnosticering, screening, behandling och rehabilitering.
Redan nu används AI-sjuksköterskor för hänvisning av patienter
till rätt vårdnivå och den nya tekniken visar lovande resultat inom
bl.a. bilddiagnostik.
Men utvecklingen väcker också etiska frågeställningar om integritet,
datasäkerhet, transparens, ansvar och vilka etiska principer som
ska leda datorer och robotar som styrs med hjälp av AI. Statens
medicinsk-etiska råd (Smer) valde mot denna bakgrund att anordna
sin årliga etikkonferens 2018 på temat Artificiell intelligens – löftesrik
teknik med etiska utmaningar. Framstående forskare och filosofer,
både från Sverige och andra länder, medverkade och gav sin syn
på utvecklingen och de etiska utmaningar vi står inför. De flesta var
överens om att tekniken innebär storartade möjligheter men att de
som utvecklar de nya systemen har ett ansvar för att integrera etiska
frågor. När är ett AI-system att anse som tillräckligt bra och hur
hanterar vi en felaktig behandlingsrekommendation? Hur påverkar
nya AI-lösningar inom vården patientens och samhällets tillit till
hälso- och sjukvården? Vem tar ansvar om något går fel? Och hur
skyddar vi individens rätt till integritet när allt mer data samlas in?
Flera framhöll också vikten av transparens, både med avseende på data som används och den logik och de värderingar som styr olika AI-system. Vems värderingar och vems etik ska få styra? Och ur ser vi till att motverka risken för kompetensförlust när AI tar över allt fler arbetsuppgifter på olika områden? Om tekniken faller är det avgörande att kunskaper och  finns kvar och att det finns vårdpersonal redo att rycka in.

Vi behöver ha med oss alla dessa frågor när vi nu ser framväxten
av detta nya spännande fält som vi bara sett början på. Smers ambition
är att utveckla sina analyser av de etiska utmaningar som tillämpningar
av AI i hälso- och sjukvården oundvikligen innebär.

Kjell Asplund
Ordförande i Statens medicinsk-etiska råd