AI både möjliggörare och utmaning för hälso- och sjukvården
Hälso- och sjukvårdens AI-utveckling accelererar stadigt, men för att AI ska kunna bidra med verklig nytta krävs en ansvarsfull AI-tillämpning som utgår från verksamheternas faktiska behov. Att utbilda vårdpersonal kring AI-användningens etiska aspekter samt ett brett teknikfokus är avgörande.
– Mönsterigenkänning som kan förbättra diagnostiken inom exempelvis bröstcancer är ett exempel på en AI-satsning som hittills varit lyckosam. AI används även som beslutsstöd för läkare, exempelvis genom att effektivisera läkemedelsförskrivning samt tidigt identifiera patienter som löper risk att drabbas av allvarliga sjukdomar, säger Pontus Nauclér, överläkare vid Karolinska universitetssjukhuset, professor i infektionssjukdomar vid Karolinska Institutet och ledamot i den rådgivande kommittén på KI:s Centrum för AI-innovation.
Ett viktigt fokus framöver är implementeringen av språkmodeller och generativ AI, som kan användas till alltifrån diagnostik och behandling till att förbättra vårdprocesser och minska vårdpersonalens administrativa börda. Samtidigt anser Pontus Nauclér att man inte bör överge traditionella AI-metoder som mönsterigenkänning och regelbaserade modeller.
”Marginalen för missöden är liten, vilket gör ett ansvarsfullt AI-införande helt centralt.”
Ansvarsfullt AI-införande centralt
– Ansvarsfull AI-användning kommer att vara i fokus framöver. Det är oerhört viktigt att AI-användningen sker på ett ansvarsfullt sätt, annars riskerar vi att förlora patienternas förtroende för teknologin. Marginalen för missöden är liten, vilket gör ett ansvarsfullt AI-införande helt centralt, säger han.
Han upplever att läkares intresse och acceptans för AI i sjukvården generellt har ökat på senare år, även om många efterfrågar kliniska studier som styrker AI:s potential att faktiskt förbättra vården.
Etiska frågeställningar
Två viktiga aspekter av framtidens AI-implementering är hur storskaliga språkmodeller ska kunna integreras i vårdmiljöer och vilken patientdata AI-modellerna bör ges tillgång till ur ett patientintegritetsperspektiv.
– En avgörande faktor är att utbilda vårdpersonal i att använda AI på ett ansvarsfullt sätt. Samtidigt kommer de etiska frågeställningarna att ställas på sin spets, exempelvis konsekvenserna om patientutfallet påverkas negativt av att en läkare har följt en AI-modells åtgärdsförslag. Det är också viktigt att AI-modellerna utvärderas regelbundet utifrån god forskningsmetodik, säger Pontus Nauclér.
Förutser infektioner
Han forskar på hur stora mängder journaldata kan användas för att bygga algoritmer som hjälper vårdpersonal att förutse och förebygga vårdrelaterade infektioner. Ambitionen är att forskningen på sikt även ska erbjuda vårdpersonal beslutsstöd i handläggningen av patienter och att ge hälso- och sjukvården tillgång till uppdaterad och träffsäker information som kan minska risken för vårdrelaterade infektioner.
– En utmaning är att många storskaliga AI-modeller är mindre transparenta kring vägen fram till ett specifikt resultat. Det ställer krav på en fungerande struktur för hur AI-modellerna ska testas, valideras och implementeras samt hur man upprätthåller en god träffsäkerhet när de testas i sjukvården. Det behövs även multidisciplinära team i vårdmiljöerna som ansvarar för att implementera och hantera nya AI-modeller. Allra viktigast är givetvis att all AI-utveckling bör utgå från hälso- och sjukvårdens konkreta behov, avslutar Pontus Nauclér.
