Når pasienter stoler for mye på maskiner: Et nytt argument for medisinsk skjønn

I en tidligere tekst diskuterte jeg hvorfor det er avgjørende at leger – ikke lekfolk – vurderer medisinske anbefalinger generert av kunstig intelligens (KI). Den gang tok jeg utgangspunkt i et norsk studie som viste at lekfolk vurderte KI genererte helseråd høyt, også når det gjalt validiteten av besvarelsen. Nå bekreftes og utdypes disse bekymringene i et nytt, internasjonalt studie publisert i NEJM AI – og resultatene er både interessante og foruroligende.

Algoritmens autoritet: Et blindt punkt hos pasientene?

Det nye studiet, publisert i NEJM AI, undersøker hvordan pasienter oppfatter medisinske råd når de vet at disse kommer fra en algoritme. Forskerne fant at når deltakerne ble fortalt at svaret stammet fra en KI-modell, vurderte de rådene som mer hjelpsomme, mer troverdige, mer presise, og lettere å forstå – selv når kvaliteten på selve innholdet var uendret. Dette fenomenet kalles gjerne algorithm appreciation – en form for autoritetstro overfor teknologiske systemer.

Dette er mer enn bare et psykologisk kuriosum. Hvis pasienter (eller andre helsepersonell) gir algoritmer en form for automatisk tillit, risikerer vi at feil blir oversett, nyanser går tapt, og viktige kliniske vurderinger forsvinner i teknologisk begeistring.

Teknologiens ansikt: Hvorfor kontekst betyr noe

Et vesentlig poeng ved studiet i NEJM AI er at algoritmen ikke hadde et «ansikt» – ingen humanoid avatar, ingen varme formuleringer – bare nøytrale tekster. Likevel ble den oppfattet som mer troverdig. Det antyder at tilliten til KI ikke nødvendigvis er et resultat av godt design, men av en underliggende antakelse: Hvis det er maskinelt, så må det være objektivt.

Men medisinen er ikke objektiv i denne forstand. Den handler om kontekst, preferanser, verdier – og ofte om usikkerhet. Når en pasient spør «Hva bør jeg gjøre?», er det sjelden enkle, binære svar. Det finnes ingen algoritme som fullt ut kan erstatte klinisk dømmekraft, empati og dialog.

En ny type helsefarlig bias?

Det norske studiet jeg tidligere diskuterte, viste hvordan leger ble forledet av feilaktige KI-råd. Nå ser vi at pasienter også kan overvurdere slike råd. Vi står altså overfor en dobbel risiko: En teknologi som kan fremstå som mer presis enn den er, og brukere – både fagfolk og pasienter – som ikke i tilstrekkelig grad stiller kritiske spørsmål.

Dette utfordrer ideen om at KI kan være en «nøytral rådgiver». I realiteten er den et nytt aktørfelt i medisinsk kommunikasjon, med sine egne biaser og påvirkningseffekter.

Hva nå?

Funnene styrker argumentet for at klinisk beslutningstaking må forankres i medisinsk kompetanse og skjønn. Ja, KI kan være et verdifullt verktøy – men bare når det forstås som nettopp det: Et verktøy, ikke en autoritet. Det betyr også at helsepersonell må få opplæring i hvordan KI virker, hvor dens begrensninger ligger, og hvordan man kan integrere slike verktøy i praksis uten å miste faglig integritet.

Og kanskje viktigst: Vi må hjelpe pasienter til å forstå at teknologi ikke er synonymt med sannhet. For noen ganger er det mest menneskelige vi kan gjøre å si: «Jeg vet ikke – men la oss finne ut av det sammen.»