AI i vården: Potential, hinder och risken för skugg-AI

Hur används AI i vården i dag?

– Väldigt olika. Vissa forskare och kliniker är nyfikna, men osäkra, andra är redan mycket avancerade användare. Sedan jag kom till Karolinska institutet i januari 2020 har mitt uppdrag varit att kartlägga vem som gör vad och hur man kan stötta varandra. Det är tydligt att intresset växer snabbt, men också att behoven av stöd ser väldigt olika ut.

Vad är det största hindret?

– Att ta sig från prototyp till verklig användning. Många får fram lösningar som fungerar bra i tester och som alla tycker verkar lovande. Men när de ska införas i vården blir det långdraget. Det krävs tillstånd, certifiering och ett kliniskt införande som tar tid. Risken är att lösningen är omodern redan när den är klar.

Är det det som kallas pilotkyrkogården?

– Ja. Där hamnar projekt som fungerar, som har testats och validerats, men som ändå aldrig börjar användas kliniskt. Det är ganska tragiskt. Vården går miste om bra idéer för att sista steget inte blir av.

Varför blir det så?

– Ofta för att införandet inte är tillräckligt förankrat i verksamheten. Det räcker inte att tekniken fungerar. Kliniken måste ha tid, resurser och ett tydligt behov. Annars fastnar projektet precis innan det skulle kunna göra nytta.

Du varnar också för skugg-AI. Vad är det och hur stort är problemet?

– Troligen större än många tror. Anställda använder AI-verktyg i arbetet utan att de är godkända av arbetsgivaren. Det kan handla om journaler, patientuppgifter eller medicinska bilder. Det oroar både ledning och jurister, eftersom det kan bryta mot sekretess och regelverk.

Varför behöver Karolinska Institutet ett Centrum för AI-Innovation och initiativet AI@KI?

– För att samla kompetens som annars är utspridd. Vi ville skapa en gemensam ingång för KI:s forskare, där de kan få hjälp med både metodik, juridik och vad som faktiskt är tillåtet. Kort sagt: Kom till oss så hjälper vi dig.

Hur stor är potentialen för AI i vården?

– Den är mycket stor. AI används redan i bilddiagnostik, till exempel inom röntgen, magnetresonans och datortomografi. Tekniken kan bidra till skarpare bilder och bättre beslutsstöd. Men det handlar också om kontroll: hur mycket man vill köpa färdigt och hur mycket man vill utveckla själv för att säkra att lösningarna verkligen möter vårdens behov.

Vilka risker ser du?

– Att personalen blir för beroende av systemen. Om AI-tjänster plötsligt slutar fungera måste klinikern ändå kunna göra jobbet. Studier visar att sådant som vi inte använder regelbundet försvagas. I vården kan det bli ett patientsäkerhetsproblem.