Regeringens nærhospitaler bliver kulissebyer

- først med nyheder om medicin

Om os | Om nyhedsbrevene | Annoncer | Betingelser

Forskere oplever kæmpe benspænd i at få kunstig intelligens ind på hospitalerne

Selv om Danmark ifølge regeringens Life Science-strategi skal være et udstillingsvindue for kunstig intelligens, og at der skal sættes puljer af til innovative indkøb, så kæmper forskerne med at få godkendt projekter, der løfter sig over lokalt afdelingsniveau.

Danmark skal fra i år have en life science-industri i verdensklasse til gavn for patienterne, det danske velfærdssamfund og dansk økonomi, og i regionerne forventer man, at kunstig intelligens skal være et centralt redskab i løsningen af de ressourceproblemer, der trænger sig på i efterhånden alarmerende grad i det danske sundhedsvæsen. 

Udfordringen er global, og ved de store videnskabelige kongresser har forskning i brugen af algoritmer og kunstig intelligens, blandt andet til at læse røntgen og scannings-billeder, været et fast element i programmet i årevis. Og hvor der i april 2021 var 100 FDA- og CE-godkendte algoritmer,  er der i dag 250, og 30 procent af alle radiologiske afdelinger i USA har taget disse teknologier i brug. 

En kunstig intelligens skal trænes i rette miljø

Ikke at USA nødvendigvis er et eksempel til efterfølgelse. For AI er forbundet med en række problemer, som ikke er løst endnu, blandt andet det velbelyste med, at selv en toptunet og gennemtrænet algoritme kun er så god som de data, den er trænet på. Det vil sige, at alle algoritmer har en bias forstået på den måde, at de kan løse en opgave perfekt i en befolkning, der der er sammensat præcis, som populationen bag de data, de er trænet på, mens de i befolkningsgrupper med andre sammensætninger og datastrukturer vil virke væsentligt dårligere og i mange tilfælde begå fejl. Dermed er et indkøbt AI-produkt ikke pålideligt, før det er testet og potentielt gennemtrænet på data fra den lokale population, hvor det skal anvendes. 

Selv et redskab, der er udviklet og trænet i Aalborg, vil ikke umiddelbart kunne anvendes i Hovedstaden, fordi der også internt i Danmark er forskellige befolkningssammensætninger, datastrukturer og leverandører af leverandører og software fra område til område.   

Disse problemer er dog til for at løses, mener AI-forskerne. De virkelig tunge problemer, de oplever i arbejdet med algoritmer, er administrative og selvskabte, og de bider hinanden i halen. 

For på trods af, at Danmark ifølge regeringens Life Science-strategi skal være “et udstillingsvindue” for kunstig intelligens, og at der skal sættes puljer af til innovative indkøb, så kæmper forskerne med at få godkendt projekter, der løfter sig over lokalt afdelingsniveau.

Ved Bispebjerg Hospital er man netop nu som nogle af de første i Danmark inden for det radiologiske område ved at tage en algoritme i brug i klinikken. Det er en algoritme, der kan identificere slidgigt i knæet, og den vil formentlig kunne aflaste betydeligt i diagnostikken, da en veltrænet algoritme vil kunne analysere røntgenbilleder 24 timer i døgnet. 

“Den vil give en ensartet læsning af billeder af knæ og derved danne grundlag for at automatisere nationale kliniske retningslinjer omkring brug af billeddiagnostik ved slidgigt i knæet på en standardiseret og ensartet måde til gavn for patienten, hospitalet og samfundet,” siger professor og overlæge ved Radiologisk Artificial Intelligence Testcenter, RAIT, ved Bispebjerg Hospital, Mikael Boesen.

Men vejen fra indkøb af algoritmen og til klinisk brug har været unødigt lang og tung, og en de største udfordringer er ifølge de danske AI-forskere, at der på trods af politiske intentioner ikke opbygget en logistik til at bære ai ind i sundhedsvæsnet. 

Danmark mangler blandt andet et godkendelsessystem, der kan hamle op med den teknologiske udvikling inden for kunstig intelligens, mener de, og ifølge Mikael Boesen er det sidste udkald for myndighederne, hvis ikke Danmark skal ende med at foretage en række mislykkede indkøb af algoritmebaseret udstyr fra udlandet, som ikke kan garanteres at virke efter hensigten ved installation.

En tommelfingerregel, som illustrerer problemet fint, er, at størrelsen på elektroniske chip halveres hvert halve år, og samtidig bliver chippen dobbelt så hurtig. Sådan har det været siden 60´erne, og hver gang chippen ændrer konfiguration, leverer den også data, der ser anderledes ud. Denne udvikling har den konsekvens, at udstyr baseret på algoritmer med jævne mellemrum skal gentrænes for at kunne arbejde med de data, det præsenteres for. 

“Omsat til for eksempel billeddiagnostik betyder det, at vi fordobler datamængden hvert andet til fjerde år, og vi får dobbelt så stor opløsning på billedet. En algoritme kigger ikke på et billede på samme måde som os, men ser informationerne i pixlerne eller datapunkterne, og når de ændrer sig, kan algoritmen ikke genkende det, den har set, med mindre den bliver gentrænet til det,” forklarer Mikael Boesen.

Logistikken mangler

Kunstig intelligens er i virkeligheden et rigtig dårligt navn til det værktøj, der i disse år strømmer ind i teknologiske løsninger alle vegne, mener han, for algoritmerne er hverken intelligente eller kreative. Det er smarte programmer, der kan løse en konkret opgave baseret på de data, den er trænet på. 

Og er den trænet til at læse en bestemt type røntgen eller scannings-billeder, vil den skulle gentrænes, når scanneren opdateres, for så ændrer datagrundlaget sig.

Og her begynder problemerne, for hvor scannere og andet medicinsk udstyr kan opdateres uden videre, når først de har fået den regulatoriske CE-godkendelse, så er det anderledes med algoritmerne. Når en algoritme får godkendelse, så låses den og må af hensyn til persondataloven ikke længere trænes på nye data. Skal den gentrænes, skal der en ny ansøgningsproces og vurdering i gang, og det er en kæmpe bremseklods i det økosystem, der skal være tilstede for at sikre, at man overholder sundhedsloven og udøver lige sundhed for den enkelte borger og for befolkningen uden at diskriminere i forhold til nationalitet, køn, alder geografi, etnicitet andre parametre, vurderer Mikael Boesen

"Der er et clash mellem de regulatoriske godkendelser, og hvordan vi sikrer os, at den teknologi, vi gerne vil bruge til at hjælpe patienterne og sygehusvæsenet, hele tiden er opdateret,” siger Mikael Boesen. 

Når der bliver indkøbt en scanner, har man metoder til hele tiden at kontrollere, at scannerne performer på den samme måde, som da den blev købt. Det er en kvalitetssikring, der i nogle tilfælde sker dagligt, og andre gange hver uge eller måned, alt efter, hvad man har at gøre med. 

“Det findes der protokoller for. For vi skal sikre os, at vi kan stole på det, der kommer ud af scannerne. Det samme skal vi gøre med algoritmer, men man har ikke lavet det økosystem eller den infrastruktur, der er nødvendig, for at vi hele tiden kan kontrollere, at algoritmer virker, som vi siger, at de gør, og om de ændrer sig over tid, så vi ikke laver forkerte diagnoser eller stoler på noget, vi ikke burde stole på. Sådan er økosystemet, og det vil sige, at de algoritmer, man køber i dag, de virker måske lige nu, men over tid vil de bliver dårligere, og man vil ikke kunne stole på, at det, man købte for et halvt år siden, kan løse opgaven på samme måde. Data ændrer sig over tid, fordi teknologien ændrer sig og bliver bedre og bedre,” forklarer Mikael Boesen. 

Står ikke alene 

Forskerne på Radiologisk Artificial Intelligence Testcenter, RAIT, står ikke alene med deres oplevelser. Udfordringerne er for nylig er blevet afdækket i rapporten Temperaturmåling af signaturprojekterne fra Digitaliseringsstyrelsen.

Rapporten er en erfaringsopsamling fra i alt 18 projekter, som er finansieret med sammenlagt 127 mio. kroner fra en investeringsfond oprettet af Regeringen, Danske Regioner og KL i 2020 for at støtte afprøvning af nye teknologier i den offentlige sektor. Og erfaringerne kan i rapporten opsummeres i syv væsentlige udfordringer for udviklingen og udrulningen af kunstig intelligens i offentligt regi:

  • Utilstrækkelig datakvalitet, datamængde og manglende fælles datastandarder
  • Juridiske udfordringer herunder om GDPR i dataanvendelsen og generelt
  • Udfordringer med it-infrastruktur blandt andet begrænset teknisk adgang til data og datadeling mellem systemer.
  • Manglende juridiske kompetencer og forståelse for kunstig intelligens.
  • Usikkerhed om etisk retning, ansvarlig anvendelse og manglende transparens.
  • Udfordringer med organisering herunder manglende ledelsesopbakning og projektforankring.
  • Udfordrende samarbejde med leverandører.

 

Nyheder fra Medicinske Tidsskrifter

MS Tidsskrift

Diagnostisk Tidsskrift