AI i Helseforskning: Hvor går grensen mellom vitenskap og økonomiske interesser?
I en tid hvor kunstig intelligens (KI) stadig finner nye anvendelser innen helsesektoren, er det essensielt å opprettholde en kritisk vurdering av hvordan forskning utføres, hvem som utfører den, og hvilke konklusjoner som trekkes. Derfor er det foruroligende å se et tidsskrift med den prestisjen som The New England Journal of Medicine (NEJM) publisere en studie som reiser betydelige metodologiske og etiske spørsmål. Studiet i fokus undersøker bruken av en AI-drevet EKG-programvare for pasienter med STEMI (ST-elevasjon hjerteinfarkt), men svikter på flere punkter som svekker validiteten av dets konklusjoner.
Metodologiske svakheter
Studien, som hevder å demonstrere nytteverdien av AI-EKG-programvaren, har flere fundamentale svakheter:
- Små utvalgsstørrelser og manglende blinding
Studien sammenligner to små pasientgrupper, der én mottok behandling basert på AI-EKG-programvaren, mens den andre fikk standard utredning. Selv om gruppene var randomiserte, ble studien ikke blindet. Det er velkjent at manglende blinding kan innføre betydelige skjevheter i hvordan behandlere tolker og reagerer på resultatene. - Manglende robuste endepunkter
Den viktigste funnene er en reduksjon i “median door-to-balloon time” i akuttmottaket. Selv om dette er en interessant observasjon, er det betydelig overlapp i interkvartilspennet mellom gruppene, noe som svekker effekten. Videre er det ingen signifikant forskjell i harde endepunkter som nyoppstått hjertesvikt eller total dødelighet. Studien rapporterer færre kardiale dødsfall, men uten å oppgi konfidensintervaller, og antallet slike hendelser er svært lavt. Dette gjør det vanskelig å trekke meningsfulle konklusjoner. - Komplekse økonomiske interesser
I disclosure-formene kommer det frem at førsteforfatteren, Chin Lin, har potensielle økonomiske interesser knyttet til kommersialiseringen av AI-EKG-programvaren. Dette gir studien en klar habilitetsutfordring, særlig når vi tar i betraktning at algoritmen er utviklet og testet på sykehus hvor forskerne selv har hatt kontroll. Denne sammenblandingen av kommersielle og vitenskapelige interesser setter spørsmålstegn ved studiens troverdighet.
Hvor går grensen?
Dette eksempelet illustrerer et bredere problem i forskningen på KI i helsevesenet: en bekymringsverdig mangel på uavhengighet. For at KI skal kunne integreres forsvarlig i medisinsk praksis, må vi kunne stole på at forskningen er nøytral, uavhengig og fri for økonomiske motiver. Når leger og forskere står til økonomisk vinning ved implementering av teknologien de selv evaluerer, skapes det en klar interessekonflikt.
I tillegg er mange av studiene på KI, inkludert denne, utført med små kohorter i kontekster som ikke nødvendigvis er representative for bredere kliniske praksiser. Disse begrensningene ignoreres ofte i oppsummeringene, og funnene presenteres i et unyansert positivt lys. Det gir KI-forskning en ufortjent autoritet, noe som kan føre til overimplementering av teknologi som kanskje ikke er klinisk fordelaktig eller kostnadseffektiv.
Veien videre
For å adressere disse utfordringene, må det skje en strukturell endring i hvordan KI-forskning innen helse organiseres:
- Økt uavhengighet i forskning
Myndigheter, akademiske institusjoner og uavhengige forskningsorganisasjoner må spille en større rolle i finansiering og gjennomføring av KI-studier. Forskningen må være fri fra kommersielle bånd for å sikre objektivitet. - Bedre rapportering av metodologi og interessekonflikter
Tidsskrifter som NEJM har et ansvar for å grundig evaluere metodologiske svakheter og oppgi alle potensielle interessekonflikter på en transparent måte. Ved å gi leserne en klar forståelse av forskernes bånd til kommersielle aktører, kan man øke bevisstheten om mulige skjevheter. - Større fokus på harde kliniske endepunkter
Studien bør prioritere robuste og klinisk relevante endepunkter som dødelighet, kvalitet på livet, og langsiktige helseeffekter. Forbigående forskjeller i tidsintervaller, som “door-to-balloon time”, kan være interessante, men de alene er ikke tilstrekkelige for å endre klinisk praksis.
Avsluttende tanker
KI har potensial til å revolusjonere medisinsk praksis, men den må utvikles og implementeres med nøyaktighet, ydmykhet og en urokkelig forpliktelse til pasientenes beste. Denne studien illustrerer hvor lett det er å gli inn i et landskap der økonomiske motiver overskygger vitenskapelig stringens. For å beskytte både pasienter og den medisinske profesjonen, må vi insistere på høyere standarder for forskningens kvalitet og uavhengighet.
Det er ikke AI som står i fare for å svikte oss – det er vi som står i fare for å svikte oss selv ved å godta forskning som dette uten tilstrekkelig kritikk.