Når pasienter stoler for mye på maskiner: Et nytt argument for medisinsk skjønn

I en tidligere tekst diskuterte jeg hvorfor det er avgjørende at leger – ikke lekfolk – vurderer medisinske anbefalinger generert av kunstig intelligens (KI). Den gang tok jeg utgangspunkt i et norsk studie som viste at lekfolk vurderte KI genererte helseråd høyt, også når det gjalt validiteten av besvarelsen. Nå bekreftes og utdypes disse bekymringene i et nytt, internasjonalt studie publisert i NEJM AI – og resultatene er både interessante og foruroligende.

Algoritmens autoritet: Et blindt punkt hos pasientene?

Det nye studiet, publisert i NEJM AI, undersøker hvordan pasienter oppfatter medisinske råd når de vet at disse kommer fra en algoritme. Forskerne fant at når deltakerne ble fortalt at svaret stammet fra en KI-modell, vurderte de rådene som mer hjelpsomme, mer troverdige, mer presise, og lettere å forstå – selv når kvaliteten på selve innholdet var uendret. Dette fenomenet kalles gjerne algorithm appreciation – en form for autoritetstro overfor teknologiske systemer.

Dette er mer enn bare et psykologisk kuriosum. Hvis pasienter (eller andre helsepersonell) gir algoritmer en form for automatisk tillit, risikerer vi at feil blir oversett, nyanser går tapt, og viktige kliniske vurderinger forsvinner i teknologisk begeistring.

Teknologiens ansikt: Hvorfor kontekst betyr noe

Et vesentlig poeng ved studiet i NEJM AI er at algoritmen ikke hadde et «ansikt» – ingen humanoid avatar, ingen varme formuleringer – bare nøytrale tekster. Likevel ble den oppfattet som mer troverdig. Det antyder at tilliten til KI ikke nødvendigvis er et resultat av godt design, men av en underliggende antakelse: Hvis det er maskinelt, så må det være objektivt.

Men medisinen er ikke objektiv i denne forstand. Den handler om kontekst, preferanser, verdier – og ofte om usikkerhet. Når en pasient spør «Hva bør jeg gjøre?», er det sjelden enkle, binære svar. Det finnes ingen algoritme som fullt ut kan erstatte klinisk dømmekraft, empati og dialog.

En ny type helsefarlig bias?

Det norske studiet jeg tidligere diskuterte, viste hvordan leger ble forledet av feilaktige KI-råd. Nå ser vi at pasienter også kan overvurdere slike råd. Vi står altså overfor en dobbel risiko: En teknologi som kan fremstå som mer presis enn den er, og brukere – både fagfolk og pasienter – som ikke i tilstrekkelig grad stiller kritiske spørsmål.

Dette utfordrer ideen om at KI kan være en «nøytral rådgiver». I realiteten er den et nytt aktørfelt i medisinsk kommunikasjon, med sine egne biaser og påvirkningseffekter.

Hva nå?

Funnene styrker argumentet for at klinisk beslutningstaking må forankres i medisinsk kompetanse og skjønn. Ja, KI kan være et verdifullt verktøy – men bare når det forstås som nettopp det: Et verktøy, ikke en autoritet. Det betyr også at helsepersonell må få opplæring i hvordan KI virker, hvor dens begrensninger ligger, og hvordan man kan integrere slike verktøy i praksis uten å miste faglig integritet.

Og kanskje viktigst: Vi må hjelpe pasienter til å forstå at teknologi ikke er synonymt med sannhet. For noen ganger er det mest menneskelige vi kan gjøre å si: «Jeg vet ikke – men la oss finne ut av det sammen.»

AI i klinikken: Supermenneskelig diagnose eller statistisk støy?

Av Damoun Nassehi

En ny preprint-artikkel med tittelen “Superhuman performance of a large language model on the reasoning tasks of a physician” gjør oppsiktsvekkende påstander: en stor språkmodell (LLM) fra OpenAI – den såkalte GPT-o1 preview – skal ha overgått erfarne leger i flere diagnostiske oppgaver, inkludert reelle sykehusinnleggelser ved en akuttavdeling i Boston.

Du finner artikkelen her på arXiv.org.

Hva studien faktisk viser

Artikkelen skiller seg ut ved å kombinere standardiserte medisinske testsett (som NEJM CPC og NEJM Healer) med reelle journaldata fra akuttmottak. De sammenlignet GPT-o1s vurderinger med leger på tre nivåer:

• Triage i akuttmottak
• Legevurdering ved innkomst
• Innleggelse på sengepost eller intensiv

I alle disse leddene var modellen enten like god eller bedre enn to board-sertifiserte indremedisinere. Faktisk var ytelsen best i de mest krevende situasjonene: når informasjonen var minst tilgjengelig, altså ved første triage.

Resultatene bygger på et stort volum: over 900 differensialdiagnoser ble vurdert av blinde eksperter. Ved triage traff modellen (Bond Score 4–5) i 65.8 % av tilfellene, sammenlignet med 54.4 % og 48.1 % for de to legene.

Mangler og metodiske svakheter

Til tross for det imponerende oppsettet, er det verdt å merke seg flere svakheter:

• Preprint-status: Studien er ikke fagfellevurdert og bør derfor tolkes med varsomhet.
• Manglende konfidensintervaller: For flere av nøkkelfunnene (inkludert akuttmottak-studien) oppgis ikke 95 % konfidensintervaller eller p-verdier i hovedfigurer. Dette gjør det vanskelig å vurdere om forskjellene er statistisk signifikante eller ikke.
• Versjonsproblematikk: Modellen som er testet, GPT-o1 preview, er allerede utdatert. Den ble sluppet i september 2024 – og GPT-4o, som nå er i bruk, ble lansert kort tid etter. Dette understreker hvor rask utviklingen i LLM-verdenen faktisk er.

Marginale forbedringer – mettet benchmark?

Et annet tankevekkende funn er at forbedringen fra GPT-4 til GPT-o1 er relativt marginal. I NEJM Healer-oppgaver fikk GPT-4 perfekt score i 47/80 tilfeller, mens o1 fikk 78/80. I klinisk praksis er ikke nødvendigvis dette en game-changer, særlig når forskjellen i “kan ikke gå glipp av”-diagnoser ikke er signifikant.

Vi står kanskje ved et metningspunkt: modellene blir større, dyrere og mer komplekse – men forbedringene blir mindre og vanskeligere å dokumentere som klinisk relevante.

Hvorfor denne studien likevel er viktig

Likevel er artikkelen verdifull av flere grunner:

1. Den tester AI-modeller mot ekte pasientdata, ikke bare simulerte vignetter.
2. Den inkluderer lege-baserte kontrollgrupper, noe mange tidligere studier ikke har gjort.
3. Den utforsker AI som en andre mening, ikke som en erstatning – et mer realistisk og etisk forsvarlig bruksområde.

Dette er spesielt viktig i et klima hvor mange roper på raske AI-integrasjoner i klinikken – ofte uten tilstrekkelig dokumentasjon.

Avslutning: Trenger vi bedre modeller – eller bedre studier?

Den pågående diskusjonen handler ikke lenger bare om hvorvidt LLM-er kan være “bedre enn mennesker” på visse oppgaver. Det handler om hvordan vi evaluerer, hvor vi implementerer, og hvorfor vi bruker dem i utgangspunktet.

Vi trenger nå ikke nødvendigvis bedre modeller, men bedre studier:

• Prospektive, randomiserte forsøk i klinisk praksis.
• Evaluering av samspill mellom klinikere og LLM.
• Studier av nytteverdi snarere enn ren ytelse.

Og viktigst av alt: vi trenger å moderere forventningene. Forhåpninger om superintelligens må balanseres med nøktern vitenskapelig metodikk og kritisk vurdering.

Lenke til artikkelen: https://arxiv.org/abs/2412.10849

Hvem har ansvaret? KI, legeansvar og forskjellen mellom ansatte og selvstendige leger

Av Damoun Nassehi

Kunstig intelligens (KI) blir stadig mer integrert i helsetjenesten – fra beslutningsstøtte til automatiserte vurderinger. Men hvem har ansvaret når systemene svikter? Og hvordan fordeles dette ansvaret mellom leger som er ansatt i helseforetak, og leger som driver egne praksiser?

I en innsiktsfull artikkel publisert på Lovdata Læring 13. mars 2025 – Hvem har ansvaret for feil knyttet til KI-systemer innen helse – analyserer jurist Julia Desiré Fuglestad Brodshaug de rettslige rammene for ansvar når KI tas i bruk i helsetjenesten. Her følger en oppsummering med særlig fokus på hvordan ansvaret varierer mellom ulike typer leger.

1. Helsetjenesten har systemansvaret

Brodshaug viser til at helsetjenesten har det overordnede ansvaret for at pasientbehandlingen er faglig forsvarlig, jf. helsepersonelloven § 4. Dette gjelder uavhengig av om teknologiske verktøy som KI er involvert. Ved uønskede hendelser må virksomheten identifisere svikt og iverksette systemforbedringer.

Hvordan dette ansvaret utøves i praksis, avhenger sterkt av legens rolle og tilknytning.

2. Ansatte leger: Inngår i et organisatorisk ansvar

En ansatt lege – enten i kommunen eller i spesialisthelsetjenesten – omfattes av arbeidsgiverens ansvar for opplæring, teknologivalg og systemforvaltning. Det er arbeidsgiver som skal sikre at KI-systemer som tas i bruk, fungerer forsvarlig. Dersom et KI-system anbefaler noe feilaktig, og legen følger det uten kritisk vurdering, kan arbeidsgiveren fortsatt stå med det overordnede ansvaret – forutsatt at legen har fulgt interne rutiner.

Legen må likevel bruke klinisk skjønn og kan ikke blindt følge KI-anbefalinger.

3. Selvstendige leger: Bærer dobbelt ansvar

For fastleger og privatpraktiserende leger er situasjonen mer kompleks. Disse legene er både helsepersonell og virksomhetsledere, og har dermed ansvar for innføring og oppfølging av teknologien de selv velger å bruke.

Dersom en feil skjer, og det viser seg at systemet ikke var tilstrekkelig validert, eller at legen manglet rutiner for kvalitetssikring, kan ansvaret hvile direkte på legen selv – både juridisk og økonomisk.

4. KI fritar ikke for profesjonelt ansvar

Et sentralt poeng hos Brodshaug er at bruk av KI ikke fritar legen for det individuelle ansvaret som følger av autorisasjonen. Tvert imot må leger dokumentere og faglig begrunne sine valg, enten de bygger på egne vurderinger eller på KI-assistanse.

5. Ulikt støtteapparat, samme krav

Ansatte leger har ofte tilgang til støttefunksjoner, teknologiansvarlige og juridisk rådgivning. Selvstendige leger må håndtere dette alene. Det skaper asymmetri i hvordan risiko håndteres – og reiser spørsmålet om systemstøtte og rettslig veiledning burde være mer tilgjengelig for privatpraktiserende leger.

Avslutning: Juridisk tydelighet i møte med teknologisk kompleksitet

Julia Desiré Fuglestad Brodshaugs artikkel er et viktig bidrag til forståelsen av ansvarsforhold i møte med ny teknologi. I en tid der grensene mellom menneskelig og maskinell vurdering blir stadig mer utydelige, er det avgjørende med klare rammer for profesjonsansvar – særlig når konsekvensene rammer pasientene.