Digitalisering i primærhelsetjenesten: Når teknologi truer med å undergrave kvaliteten

Debatten om digitalisering i norsk primærhelsetjeneste har fått ny aktualitet etter et skarpt innlegg i Dagens Medisin av Marte Kvittun Tangen og Nils Kristian Klev. De peker på en urovekkende utvikling: Økt digitalisering risikerer å bli en snarvei til en dårligere helsetjeneste. Dette er et poeng som fortjener å tas på største alvor, særlig når man vurderer de langsiktige konsekvensene for fastlegeordningen.

En viktig innsikt som ikke har fått nok oppmerksomhet i denne debatten, er relevansen av Jevons’ paradoks. Økt tilgjengelighet av helsetjenester, for eksempel gjennom digitale konsultasjoner, vil sannsynligvis føre til økt etterspørsel. I et bærekraftsperspektiv er dette dypt problematisk. Leger er en begrenset ressurs – uansett om de er offentlig eller privat tilknyttet. Når etterspørselen øker uten en tilsvarende økning i tilgjengelige ressurser, er det uunngåelig at oppgaveglidning og kvalitetsutvanning følger.

Digital førstelinjetjeneste: En farlig fristelse

Et naturlig, men potensielt farlig, motargument som sannsynligvis vil oppstå i den videre debatten, er ideen om å innføre en digital førstelinjetjeneste basert på kunstig intelligens, for eksempel en GPT-chatbot. Dette er en tilsynelatende fristende løsning for å avlaste et presset helsevesen. Problemet er bare at teknologien på ingen måte er moden for en slik oppgave – i hvert fall ikke uten tett oppfølging.

Per i dag brukes KI-drevne transkripsjonstjenester av omtrent 10 % av fastlegene i Norge, ifølge tall fra industrien. Disse systemene har vist seg å være både effektive og hjelpsomme i klinisk praksis, men de er langt fra feilfrie. Egne, upubliserte data viser at disse teknologiene kan gjøre grove feil. Derfor er det avgjørende at fastleger nøye overvåker det KI-systemene genererer, før noe skrives inn i pasientjournalen.

Ansvar og risiko: Et uavklart landskap

Det store spørsmålet som melder seg dersom slike KI-tjenester innføres uten tilstrekkelig tilsyn, er: Hvem har ansvaret når teknologien svikter? Selv om teknologileverandører gjerne skryter av at deres systemer kan gi beslutningsstøtte, er de nøye med å understreke at det til slutt er legens ansvar å sikre korrektheten i informasjonen. Men dersom en digital tjeneste opererer usupervisert, hvem bærer ansvaret for feil som kan få alvorlige, og i verste fall fatale, konsekvenser?

Slik teknologien står i dag, er det uansvarlig å slippe KI-løs uten tett faglig oppfølging. Vi er trolig 5 til 20 år unna en situasjon hvor slike tjenester kan fungere trygt og effektivt uten direkte tilsyn fra helsepersonell. Inntil da må vi holde fast på prinsippet om at teknologi skal være et støtteverktøy – ikke en erstatning for menneskelig dømmekraft.

Veien videre: Fornuftig bruk av teknologi i helsetjenesten

Det betyr ikke at vi skal avvise digitalisering eller kunstig intelligens i helsetjenesten. Tvert imot – brukt riktig kan teknologi effektivisere og forbedre kvaliteten på helsetjenester. Men vi må være varsomme.

Hvem bør vurdere kunstig intelligens’ medisinske råd?

I en nylig publisert studie i Tidsskrift for Den norske legeforening undersøker medisinstudentene Mork og Mjøs, sammen med sine medforfattere, hvordan kunstig intelligens (KI) svarer på helsespørsmål. Studien viser et flott initiativ og en god forståelse for den vitenskapelige metode, særlig ved at de bygger videre på et eksisterende datasett og gjør metodikken sin tilgjengelig via GitHub.

En av de mest interessante aspektene ved studien er tilgangen de har valgt: Ved å bruke et allerede eksisterende datasett, får de mulighet til å analysere store mengder informasjon uten å måtte konstruere et nytt eksperiment fra bunnen av. Dette er en metodisk styrke, men det er også viktig å reflektere over hvem som vurderer svarene KI gir – og hvilken ekspertise disse vurderingene baserer seg på.

Hvem evaluerer helserådene?

Studien baserer seg på vurderinger fra 344 respondenter, men av disse var kun 44 leger eller medisinstudenter. Det innebærer at nesten 90 % av respondentene ikke hadde medisinsk utdanning. Dette reiser et viktig spørsmål: Ville resultatene vært annerledes dersom en større andel av vurderingene kom fra medisinsk kvalifiserte personer?

Leger har en spesialisert kunnskap om diagnostikk, sykdomsforløp og behandlingsalternativer, noe som kan gjøre dem bedre i stand til å vurdere nøyaktigheten og nytteverdien av KI-genererte svar. En interessant oppfølgingsanalyse kunne derfor vært å se på hvordan vurderingene fra leger skiller seg fra de øvrige respondentene. Er det for eksempel slik at leger vurderer KI-svarene som mer eller mindre presise enn lekfolk gjør? Opplever de at KI i større grad gir plausible, men potensielt misvisende svar?

Mulige implikasjoner for fremtidig forskning

Dersom det viser seg at leger vurderer KI-svarene annerledes enn den generelle befolkningen, kan dette ha flere konsekvenser. Det kan tyde på at ikke-eksperter har en annen oppfatning av hva som utgjør et godt helseråd, noe som kan påvirke hvordan pasienter forholder seg til KI-baserte verktøy. Det kan også indikere at fremtidige evalueringer av slike systemer bør inneholde en tydeligere medisinsk ekspertkomponent for å sikre faglig kvalitet.

Studien av Mork og Mjøs er et viktig bidrag til diskusjonen om KI i helsetjenesten, men den reiser også nye spørsmål som bør utforskes videre. En mer detaljert analyse av vurderingene fra leger kontra ikke-leger kunne vært et naturlig neste steg.

Automatiseringsskjevhet vs. Algoritmisk Verdsettelse: Fallgruver ved AI i Medisinsk Praksis

I en kronikk publisert i NEJM AI av Ohde et al. i januar 2024, “The Burden of Reviewing LLM-Generated Content” (NEJM AI), diskuteres utfordringene knyttet til vurdering og validering av innhold generert av store språkmodeller (LLMs) i medisinsk kontekst. Dette temaet berører to sentrale fenomener: automatiseringsskjevhet (automation bias) og algoritmisk verdsettelse (algorithmic appreciation), som begge kan ha betydelig innvirkning på medisinsk praksis.

Automatiseringsskjevhet: Når AI tas for gitt

Automatiseringsskjevhet refererer til tendensen til å stole blindt på anbefalinger fra automatiserte systemer, selv når de er feilaktige. I allmennpraksis kan dette arte seg ved at leger aksepterer AI-genererte diagnoser, behandlingsplaner eller journalnotater uten tilstrekkelig kritisk vurdering. Et eksempel kan være en AI-drevet beslutningsstøtte som foreslår en vanlig diagnose basert på mønsteranalyse, men overser sjeldne differensialdiagnoser som en erfaren lege ville vurdert. Slike feil kan forsterkes dersom klinikere ikke tar seg tid til å gjennomgå AI-forslagene grundig.

Algoritmisk verdsettelse: Når AI får for mye tillit

Algoritmisk verdsettelse innebærer en overdreven tro på at AI-systemer alltid genererer overlegne eller presise resultater, selv i tilfeller der de mangler kritisk kontekst. Dette kan være spesielt problematisk i kliniske beslutninger hvor nyanser som pasientens sosiale forhold eller subtile kliniske tegn ikke fanges opp av AI. I allmennpraksis kan en lege feilaktig anta at en AI-generert behandlingsanbefaling er optimal, selv når den ikke er tilpasset pasientens unike situasjon.

Fallgruver ved bruk av LLMs til journalnotater

Bruken av store språkmodeller til å skrive journalnotater introduserer flere utfordringer. LLMs har en tendens til å produsere tekst som virker plausibel, men som kan inneholde feil eller “hallusinasjoner” – altså informasjon som ikke er basert på faktiske data. Dette kan resultere i misvisende eller feilaktige journalnotater, noe som kan få konsekvenser for videre pasientbehandling. I tillegg kan LLMs forsterke eksisterende skjevheter i dataene de er trent på, noe som igjen kan påvirke diagnostikk og behandlingsvalg.

Klinikeres bevissthet om disse skjevhetene

Etter å ha intervjuet flere leger om bruk av KI-drevne transkripsjonstjenester, er mitt inntrykk at de fleste er bevisste på automatiseringsskjevhet. Derimot har noen av dem en mer intuitiv, men mindre artikulert, bekymring knyttet til algoritmisk verdsettelse. Dette tyder på at klinikere som skal bruke KI gjennom hele pasientforløpet, må være ekstra bevisste på begge disse skjevhetene for å unngå feilvurderinger.

Kritisk vurdering og systematisk kvalitetssikring

For å håndtere disse utfordringene må helsepersonell få grundig opplæring i både styrkene og svakhetene ved KI-verktøy. Det er avgjørende at leger opprettholder en kritisk holdning og vurderer AI-genererte forslag i lys av klinisk erfaring og pasientens spesifikke kontekst. Videre bør det etableres systemer for kvalitetssikring og kontinuerlig evaluering av AI-verktøyene i klinisk praksis.