Terapeutisk allianse eller psykologisk illusjon? KI i psykisk helse

De siste årene har vi sett en eksplosiv vekst i bruken av kunstig intelligens (KI) i helsetjenesten. Samtidig som teknologien åpner for nye muligheter, beveger den seg også inn i områder preget av stor menneskelig sårbarhet. Særlig innen psykisk helse reises spørsmål som går langt utover effektivitet og innovasjon: Hva skjer når relasjon, omsorg og tillit – kjerneelementer i terapi – simuleres av maskiner uten bevissthet eller ansvar?

Innen psykisk helse er dette særlig alvorlig. Mange som søker hjelp befinner seg allerede i en sårbar situasjon. Her kan feilinformasjon, manglende dømmekraft og fraværet av genuin omsorg føre til skade – ikke bare skuffelse. Uten betydelig menneskelig overvåking kan KI i beste fall bli ineffektiv, i verste fall direkte farlig.

Det er derfor oppsiktsvekkende at det allerede finnes selskaper som tilbyr behandlings-chatboter. I en nylig publisert artikkel i NEJM AI konkluderte forskere med at slik behandling kunne være effektiv
👉 Les artikkelen her.

Men som Gratch og Essig påpeker i sin kommentar til redaktøren, var det flere metodologiske svakheter ved studien.

Den mest grunnleggende gjaldt hvordan man målte «terapeutisk allianse» mellom deltakerne og chatboten. Forskerne benyttet Working Alliance Inventory – Short Revised (WAI-SR), et verktøy validert for menneske-til-menneske-relasjoner. Som Gratch og Essig understreker, innebærer dette en klassisk utgave av William James’ psychologist’s fallacy: å projisere en menneskelig relasjonell struktur på en interaksjon der det ikke finnes noe faktisk subjekt, ingen intensjonalitet og ingen gjensidighet.

WAI-SR kan fange deltakernes subjektive opplevelse av rapport eller engasjement, men det betyr ikke at en genuin terapeutisk allianse eksisterer.

Dette illustrerer en kjerneutfordring: Vi mangler fortsatt metodologiske verktøy for å evaluere KI i behandlingskontekster. Når teknologien skaper inntrykk av empati og gjensidighet, men mangler både bevissthet og ansvar, kan vi lett bli lurt av vår egen tilbøyelighet til å antropomorfisere maskiner.

Når kunstig intelligens møter psykisk helse: Et tveegget sverd

Debatten om kunstig intelligens (KI) kretser ofte rundt produktivitet, innovasjon og muligheter. Men i skyggen av disse visjonene ser vi stadig tydeligere hvordan KI også kan medføre betydelig psykisk og fysisk skade. Det gjelder ikke minst i møte med de mest sårbare områdene av menneskelig erfaring – som psykisk helse.

KI-baserte samtaleagenter kan allerede i dag fremstå empatisk, engasjerende og overbevisende. Når slike systemer samtidig er trent på å maksimere «engagement», uten en tilsvarende prioritering av sikkerhet, skapes et farlig spenningsfelt: teknologien kan fange mennesker i en relasjonell illusjon uten at den har menneskelig dømmekraft eller etisk ansvar. Jo mer hukommelse og kontekst systemene får, desto sterkere blir opplevelsen av kontinuitet og tilstedeværelse – som igjen øker risikoen for at brukere utvikler avhengighet eller misforstått tillit.

Innen psykisk helse er dette særlig alvorlig. Her snakker vi om individer som ofte befinner seg i en sårbar situasjon, med behov for støtte, omsorg og profesjonell vurdering. Bruken av KI uten betydelig menneskelig overvåking er derfor ikke trygg. Den kan skape falske forhåpninger, forsterke isolasjon, og i verste fall lede til direkte skadelig påvirkning – enten ved utilsiktede råd, eller ved at systemet forsterker selvdestruktive mønstre.

Dette er grunnen til at Europas strengere regulering av KI – med AI Act som et nytt rammeverk – er avgjørende. Regulering kan aldri eliminere risiko, men den kan legge føringer som gjør at teknologi som berører helse, relasjoner og menneskelig sårbarhet ikke overlates til kommersielle insentiver alene.

For en aktuell diskusjon om disse problemstillingene, anbefaler jeg episoden Your Undivided Attention hvor vertene forklarer hvordan en 16 år gammel gutt først brukte ChatGPT 4o til leksehjelp og siden til å begå selvmord.

Det sentrale spørsmålet blir dermed: Hvem skal ha ansvaret for å beskytte mennesker når KI beveger seg inn i livets mest intime og sårbare rom? Svaret kan ikke være teknologiselskapenes egen samvittighet da denne trumfes av kapitalisme.

Kunstig intelligens i OSCE-forberedelser – reell gevinst eller metodologisk skinn?

En nylig publisert artikkel i NEJM AI undersøker hvordan medisinstudenter presterer på OSCE etter å ha trent med en AI-basert simuleringsplattform (DocSimulator). Studien, et randomisert kontrollert forsøk ved universitetet i Montpellier, viste at studentene som brukte den AI-standardiserte kliniske eksamenen (ASCE) oppnådde noe høyere skårer enn kontrollgruppen (median 11,4 vs. 10,7 av 20; p = 0,02). Effekten var liten – mindre enn ett poeng – men statistisk signifikant.

I tillegg rapporterte studentene i intervensjonsgruppen lavere stressnivå og større emosjonell beredskap før eksamen. Flere opplevde også AI-simuleringene som realistiske, nesten som å samhandle med virkelige pasienter.

Men hvor stor er egentlig effekten?

Effektstørrelsen er beskjedent. En gevinst på under ett poeng på en 20-poengsskala kan i praksis være marginal, og studien peker selv på at dette sannsynligvis skyldes små forbedringer spredt over mange deloppgaver snarere enn en markant styrking av spesifikke ferdigheter.

Samtidig er det metodologisk interessant at kontrollgruppen kun hadde tilgang til «standard trening» – i praksis kliniske rotasjoner og noen få fakultetsarrangerte OSCE-øvelser i løpet av året. Det betyr at intervensjonen ikke ble testet mot en alternativ, like intens ressursbruk (f.eks. ekstra tradisjonell undervisning eller utvidet øvingsmulighet), men snarere mot fraværet av slik tilleggstrening. Dermed er det vanskelig å vite om det er AI i seg selv som gir gevinsten, eller om enhver strukturert, ekstra treningsarena ville hatt samme effekt.

Mestringsfølelse og motivasjon

Et interessant funn er at studentene rapporterte større trygghet og lavere stress. Psykologisk sett er dette ikke trivielt. I møte med en høyst presset eksamenssituasjon kan opplevd mestring være minst like viktig som marginelle kunnskapsgevinster. Dette gir AI-verktøy en potensiell verdi som supplement – ikke nødvendigvis fordi de fundamentalt forbedrer kliniske ferdigheter, men fordi de senker terskelen for å øve, og dermed reduserer prestasjonsangst.

Kritisk vurdering

Studien er metodisk robust (randomisering, blinding av sensorer, kontrollstasjon som ikke kunne påvirkes av AI-trening), men har også klare begrensninger:

• Små effekter – klinisk signifikans er diskutabel.
• Selvrapporterte sekundærutfall – emosjonell beredskap og stress er målt med Likert-skalaer, sårbare for bias.
• Generalisering – studien er gjennomført ved én institusjon, og resultatene kan være kontekstavhengige.
• Manglende alternativ intervensjon – kontrollgruppen fikk ikke tilsvarende mengde ekstra strukturert trening, noe som kan forklare deler av forskjellen.

Hva betyr dette for medisinsk utdanning?

AI-simuleringer som ASCE bør forstås som et supplement snarere enn en erstatning for klassiske læringsformer. De kan bidra til mer jevnlig trening, redusere logistiske barrierer, og gi studentene en trygghet som er viktig i eksamenssituasjoner. Men om AI virkelig er «transformativt» for læringsutbyttet, eller bare fyller hullet etter manglende ressurser i dagens OSCE-trening, er fortsatt et åpent spørsmål.

Det neste steget bør være studier som sammenligner AI-trening med andre former for intensivert, men ikke-AI-basert, ekstraundervisning. Først da kan vi avgjøre om det er teknologien i seg selv – eller ganske enkelt strukturen og mengden trening – som gir utslag.

📘 Ny bok: Mellom menneske og maskin – KI-refleksjoner fra legekontoret

I møte mellom lege og pasient skjer noe grunnleggende menneskelig – et møte mellom erfaring, skjønn og tillit. Hva skjer når vi inviterer kunstig intelligens (KI) inn i dette rommet? Hvordan påvirker språkmodeller, transkripsjonsverktøy og beslutningsstøtte både medisinsk praksis og relasjonelle dybder? I den nye boken Mellom menneske og maskin tar jeg, fastlege og forsker Damoun Nassehi, leseren med på en reise gjennom teknologiens fremmarsj i allmennmedisinen.

Boken er gratis tilgjengelig på flere plattformer, og egner seg for både leger, medisinstudenter og helsepersonell som ønsker en grunnleggende, men reflektert introduksjon til bruk av KI og store språkmodeller i medisinen.

📖 Les boken gratis på:

• Apple Books
• Google Play

💰 Ønsker du å støtte forfatteren?
Da kan du kjøpe boken på Kindle:

• Kindle (Amazon)

Ny digital støtte for fastleger: Vaksinasjonsveileder for voksne

I arbeidet med å gjøre helsetjenesten mer presis og tilgjengelig, har jeg utviklet et program som kan hjelpe fastleger med å velge riktig vaksine for voksne i tråd med det nasjonale voksenvaksinasjonsprogrammet.

Verktøyet er ment som en støtte i klinisk hverdag og følger Helsedirektoratets anbefalinger. Det er særlig utviklet for bruk i forbindelse med vaksinasjon mot influensa, COVID-19 og pneumokokker i 2025/2026-sesongen.

• ✅ Prøv verktøyet: https://nassehi.no/vaksinasjon.html
• 💻 Se kildekoden: https://github.com/dnassehi/vaksinasjon

Programmet er fritt tilgjengelig under Apache 2.0-lisens, og kan gjenbrukes og videreutvikles av andre. Jeg oppfordrer alle som finner feil eller har forslag til forbedringer, til å melde dette via GitHub.

Målet er å senke terskelen for voksenvaksinasjon og støtte en mer treffsikker forebygging i primærhelsetjenesten.

“Health companions” og fastlegeavlastning: Et nødvendig realitetsorientert blikk

av Damoun Nassehi - 01-aug-2025

Professor Krumsvik og kollegaer har i sin ferske artikkel i Digital Health presentert et spennende og ambisiøst fremtidsscenario: En KI-drevet health companion som skal bidra til oppgaveglidning og avlastning av fastleger. Artikkelen bygger videre på tidligere arbeid fra samme gruppe og benytter nyere norske data for å underbygge ideen (Krumsvik et al., 2025).

At KI kan spille en rolle i fremtidens helsetjeneste er det liten tvil om. Men det er avgjørende at vi møter slike forslag med både entusiasme og kritisk analyse.

Eksemplene brukt i innlegget er ikke hentet fra eller direkte knyttet til Krumsvik m.fl. sin artikkel i Digital Health, men baserer seg på mine egne erfaringer og andre kilder.

Kliniske prestasjoner i teori – og i praksis?

Et vanlig argument for å støtte slike ideer er at store språkmodeller som GPT-4 har vist imponerende resultater i teoretiske medisinske tester og eksamenssituasjoner. Dette har også fått betydelig medieoppmerksomhet, og noen har tolket dette som en indikasjon på at slike modeller er klare til å ta del i klinisk arbeid.

Som jeg tidligere har diskutert i denne analysen, må vi imidlertid være svært forsiktige med å trekke slike slutninger.

Det er én ting å svare riktig på flervalgsspørsmål – noe helt annet er å forstå det unike mennesket som sitter foran deg. Diagnosen kan være enkel, men pasienten er det sjelden. De psykologiske, sosiale og eksistensielle dimensjonene av sykdom er ofte det som gjør klinisk arbeid så komplekst. Når vi begynner å redusere pasienten til en ren informasjonspakke – et sett med symptomer og svaralternativer – risikerer vi å underminere hele fundamentet for god allmennmedisin.

Jeg har også tatt opp denne problematikken mer eksplisitt i en annen tekst om chatboter som medisinske surrogater (les her). Det finnes foreløpig ikke empirisk grunnlag for å tro at slike systemer kan erstatte fastleger – verken i komplekse eller “enkle” konsultasjoner. For hva er egentlig en enkel konsultasjon?

Digitale verktøy for fastlegen – ikke i stedet for fastlegen

Dette betyr likevel ikke at kunstig intelligens ikke har en plass i fastlegehverdagen. Tvert imot: Jeg mener vi har et enormt uforløst potensial i KI-assisterte verktøy som kan støtte, ikke erstatte, fastlegen. Det handler ikke om science fiction, men om konkret teknologi som kan redusere kognitiv last og administrative byrder.

Eksempler inkluderer systemer som:

• automatisk genererer journalnotater
• samler inn og strukturerer pasientdata fra ulike kilder
• støtter i informasjonsdeling mellom aktører
• strukturerer og forenkler henvisninger og skjemaer

Selv har jeg laget to slike enkle programmer selv – ikke fordi jeg er utvikler, men fordi behovet er så akutt og verktøyene er blitt så tilgjengelige. Men hvor er den nasjonale satsingen?

Etter 15 år i praksis venter jeg fortsatt på:

• et elektronisk helsekort for gravide
• elektronisk multidose i alle journalsystemer
• digital førerkortattest, uten behov for utskrift og postsending

Dette er konkrete tiltak som ville spart tusenvis av legetimer. Vi trenger politisk og teknologisk vilje til å satse på løsninger som faktisk møter fastlegenes behov – ikke visjoner om framtidige systemer som skal overta vår rolle.

Veien videre: Realisme og nyanser

Professor Krumsvik og hans kolleger skal ha ros for å trekke frem nye perspektiver og forsøke å forestille seg fremtidens helsevesen. Men vi må skille mellom det teoretisk mulige og det praktisk gjennomførbare. Den dype menneskelige kompleksiteten i allmennmedisin lar seg ikke redusere til prediktive modeller – i hvert fall ikke uten at noe fundamentalt går tapt.

Vi kan ikke bygge fremtidens helsetjeneste på en idé om at enkelte oppgaver er enkle. Mennesket er ikke enkelt. Helse er ikke enkelt. Det betyr ikke at vi ikke skal automatisere der vi kan – men vi må gjøre det med respekt for det som ikke kan automatiseres.

Først når – og hvis – vi oppfinner kunstig generell intelligens (KGI), kan vi ta en ny og dypere diskusjon. Frem til da har fastlegen fortsatt en uerstattelig rolle – og trenger gode verktøy, ikke spekulative erstatninger.