Vest-AI er i luften

Vest-AI-siden er nå oppe: vest-ai.no. Det er et nettverk for leger på Vestlandet med felles interesse for KI i primærhelsetjenesten, forskning, klinisk erfaring og ansvarlig bruk.

Er du fastlege eller kliniker i regionen og har lyst til å forske på dette feltet, ta gjerne kontakt.

SMART bruk av kunstig intelligens

Ny kronikk i Tidsskriftet, sammen med Ingvild Vatten, Eirik Haarr og Morten Munkvik:

Vi foreslår et rammeverk for tryggere KI-bruk i norsk allmennpraksis — Situasjonstilpasset, Miljø og bærekraft, Ansvar, Rettferdig, Transparens — inspirert av et rammeverk nylig publisert i Lancet Primary Care. Bakgrunnen er SKILs kommende kurs “KI-førerkort”, til høsten.

Les hele saken i Tidsskriftet

illustrasjon av Morten Munkvik

Retten til menneskelig lege - kronikk i tidsskrift for den norske legeforening

Jeg har nylig skrevet en kronikk i Tidsskriftet:

«Dersom kunstig intelligens når klinisk kompetanse på nivå med menneskelige leger, reiser det spørsmål norsk helsepolitikk ikke har begynt å besvare. Retten til en menneskelig lege bør lovfestes, og medisinutdanningen må tilpasse seg allerede nå.»

Du kan lese hele kronikken hos Tidsskriftet.

Tale-til-notat i norsk allmennpraksis – nye funn

Sammen med kolleger Øystein Hetlevik og Jørgen Breivold ved UiB har jeg nettopp
publisert en kvalitativ studie i Scandinavian Journal of Primary Health Care,
der vi intervjuet ti norske fastleger om erfaringene med KI-baserte journalskrivere.

Vi konkluderer slik:

According to the respondents, AI scribes influence GPs daily routines and professional identity by enhancing documentation efficiency, reducing workload and enabling GPs to focus more on patient care. However, they may introduce new areas for error and subtle shifts in clinical practice, such as reliance on AI-generated text. Responsible integration requires collaborations on guidelines, training and further research to balance efficiency gains with patient centred care and address long-term impacts.

Les artikkelen her

KI som diagnostiker på akuttmottaket — et studie i Science

En ny studie publisert i Science denne uken vekker berettiget oppmerksomhet. Forskere fra Harvard, Stanford og Beth Israel Deaconess Medical Center i Boston har systematisk testet OpenAIs o1-preview – den første tekstbaserte modellen med innebygd trinnvis resonnering – mot både standardiserte kasuistikker og reelle akuttpasienter.

Studien evaluerte diagnostiske og behandlingsrelaterte resonneringsevner hos o1-serien ved å sammenligne den med hundrevis av leger og eldre KI-systemer, gjennom seks ulike eksperimenter – inkludert virkelige pasienter ved et større akuttmottak i Massachusetts.

Resultatene er slående. O1-modellen identifiserte riktig eller tilnærmet riktig diagnose i 67,1 % av tilfellene ved initial triagering, 72,4 % under legemøtet på akuttmottaket, og 81,6 % ved innleggelse på medisinsk avdeling eller intensivavdeling. Til sammenligning lå de to legene i studien på henholdsvis 55,3 % og 50,0 % ved initial triagering.

Her er det viktig å løfte frem en kontekstuell nyanse: leger på akuttmottaket har primært fokus på triagering, stabilisering og korrekte akutte tiltak – ikke nødvendigvis på å stille den mest presise endelige diagnosen. Det er i seg selv en spesialisert og krevende oppgave. At KI skårer høyere på differensialdiagnoser i en slik setting, betyr derfor ikke at den gjør legens faktiske jobb bedre – det betyr at den er god på akkurat det den ble testet på: å generere systematiske diagnostiske lister basert på journaltekst.

Referansegruppen på legesiden besto dessuten av kun to leger. Det er et spinkelt sammenligningsgrunnlag, og resultatene sier noe interessant om disse to legene i denne konteksten – men gir begrenset grunnlag for bredere generalisering.

Studien understreker da også selv at systemet ikke er klart til å erstatte menneskelig skjønn i reell klinisk praksis, og at klinisk medisin er «multifacettert og full av ikke-tekstbaserte inndata» – som pasientens stemme, kroppsspråk og billeddiagnostikk.

Det er nettopp her vi bør holde hodet kaldt. O1-preview ble testet på journaltekst alene. Den hørte ikke pasienten, så ikke ansiktsfargen, og fanget ikke den subtile uroen som erfarne klinikere gjenkjenner som magefølelse. Dette er ikke en bagatell – det er en kjernedimensjon i klinisk arbeid.

Likevel er funnene faglig viktige og oppløftende. KI var særlig sterk i den tidligste triageringsfasen, der det foreligger minst informasjon og beslutninger haster mest. Det er nettopp i slike øyeblikk at en rask, systematisk andreoppinion – uten kognitivt press – kan ha reell verdi som beslutningsstøtte for klinikeren.

Studien ble gjennomført med o1-preview i 2024, og bedre modeller er allerede tilgjengelige. Det er en påminnelse om hvor raskt feltet beveger seg – og at potensialet vi ser her sannsynligvis bare vil vokse.

Min konklusjon er at studien peker tydelig i retning av at avansert KI har et reelt potensial som beslutningsstøtte – særlig i tidlig diagnostisk fase og ved komplekse eller uklare presentasjoner. Ikke som en erstatning for klinisk skjønn, men som et verktøy som kan støtte legen der informasjonen er knapp og presset er størst. Det er akkurat den symbiosen vi bør jobbe mot.

Brodeur P et al. Performance of a large language model on the reasoning tasks of a physician. Science 2026. doi: 10.1126/science.adz4433

Automation bias: når trening ikke er nok

Et nytt enkelt-blindet randomisert studie bidrar med interessant ny viten. Leger som hadde gjennomgått 20 timers KI-opplæring – inkludert prompt engineering og kritisk vurdering av KI-generert output – viste seg likevel å være sårbare for automation bias når de brukte store språkmodeller som beslutningsstøtte [1].

44 leger ble randomisert i et enkelt-blindet design til å diagnostisere seks kliniske vignetter. Kontrollgruppen mottok umodifiserte anbefalinger fra ChatGPT-4o, mens intervensjonsgruppen fikk anbefalinger der feil bevisst var lagt inn i tre av seks caser. Deltakerne var blindet for studiens spesifikke formål.

Leger som ble eksponert for feilaktige anbefalinger, oppnådde en gjennomsnittlig diagnostisk nøyaktighet på 73 prosent, sammenlignet med 85 prosent i kontrollgruppen – en justert forskjell på 14 prosentpoeng.

Hyppige KI-brukere – de som brukte KI ukentlig eller mer – viste størst prestasjonsnedgang. Dette antyder at vanebruk av KI kan fostre kognitiv avhengighet som svekker kritisk vurdering av maskinens anbefalinger.

Automation bias kan forsterkes av kognitiv avlasting – der klinikere ubevisst reduserer sin egen kognitive innsats når de får en ferdig løsning fra maskinen.

Hva betyr dette i praksis? Det betyr at vi ikke kan slå oss til ro med at KI-opplæring er et tilstrekkelig sikkerhetstiltak. Trening øker ikke nødvendigvis motstandsdyktigheten mot bias – den kan til og med gi en falsk trygghet. Det minner oss om at problemet ikke bare er hos brukeren, men i møtet mellom menneskelig kognisjon og et overbevisende system.

Utviklere av LLM-løsninger i helsevesenet argumenterer gjerne for at “human-in-the-loop” er tilstrekkelig sikkerhet. Men når mennesker konsekvent følger maskinens vei med minst kognitiv motstand, holder ikke dette argumentet.

Dette stiller høye krav til oss som leger, men enda høyere krav til dem som utvikler og godkjenner beslutningsstøtteverktøy. CE-merking, klinisk validering og transparens om feilrater er nødvendige forutsetninger for trygg implementering.

Referanse

Automation Bias in Large Language Model Assisted Diagnostic Reasoning Among AI-Trained Physicians. NEJM AI. https://ai.nejm.org/doi/full/10.1056/AIoa2501001

Vi betaler for å trene andres algoritmer

Etter å ha lest om Silja Vases forskning på talegjenkjenning ved danske sykehus, var det særlig ett sitat som stoppet meg:

«En læges tid er enormt dyr, og det har de private udbydere fået helt gratis. Sygehuset betaler ovenikøbet licens for at få adgang til talegenkendelsen.»

Dette er noe jeg ikke selv har tenkt tilstrekkelig over. Hver gang vi retter opp en feil transkripsjon, reformulerer en setning eller godkjenner et journalutkast, trener vi en modell vi ikke eier. Vi gir fra oss klinisk ekspertise, gratis, til selskaper som selger den tilbake til oss.

Norske fastleger og sykehus bør stille tydeligere krav når de inngår avtaler med leverandørene: Hvem eier dataene? Hvem eier modellen som forbedres av vår bruk? Og hvem sitter igjen med verdien?

Det er spørsmål som bør inn i kalkylen før vi signerer kontrakten.

Les artikkelen: Læger bruger dyrebar tid på at træne en privatejet algoritme – Uniavisen

Når KI blir en venn: hvorfor regulering av emosjonelle chatbot-tjenester haster

Jeg deltar for tiden i Teknologirådets ekspertgruppe om KI-baserte vennetjenester – digitale systemer som er designet for å fungere som samtalepartnere, støttespillere eller til og med “venner”.

Temaet er nylig omtalt i en kommentar i Dagens Næringsliv:

ChatGPT er blitt en grådig god venn.

Der pekes det på et blindpunkt i regjeringens foreløpige vurdering:

Den norske regjeringen vurderer for tiden 15-årsgrense på sosiale medier, men det gjelder ikke for KI-baserte vennetjenester. Andre myndigheter går hardere til verks. I California kreves pausepåminnelser og tydelige advarsler for mindreårige, mens Kina vil innføre nødmekanismer der mennesker tar over samtalen ved tegn til selvmordstanker, og en egen mindreårig-modus med tidsgrenser og varsler.

Når følelsesmessig tilknytning blir selve forretningsmodellen, må reguleringen holde tritt med utviklingen. Og når empatiske KI-chatboter inntar barn og unges følelsesliv, kan vi ikke overlate ansvaret til markedet alene. Alternativet er at vi – igjen – lar en hel generasjon bli forsøkskaniner i et globalt teknologieksperiment.

Dette sitatet treffer etter min mening kjernen i utfordringen.

Google AMIE i klinikken: Et viktig steg fremover — men ikke helt klar for eliteserien

Det er gode nyheter at vi endelig får et prospektivt, reelt klinisk studie av en diagnostisk KI-chatbot i primærhelsetjenesten. Etter flere år med simulerte benchmark-studier er dette et viktig skifte: fra laboratoriet til faktisk klinisk arbeidsflyt.

Studien (A prospective clinical feasibility study of a conversational diagnostic AI in an ambulatory primary care clinic) rapporterer blant annet:

• ingen safety-stopp under de 100 pasientinteraksjonene
• diagnostisk kvalitet på nivå med leger i flere vurderinger
• høy pasienttilfredshet og økt tillit til KI etter bruk
• nytte for legen i forberedelse før konsultasjon

Alt dette er lovende.

Men: “zero safety stops” betyr ikke “zero risiko”

Et helt sentralt forbehold er at null safety-intervensjoner ikke betyr at det ikke var klinisk risiko. Det betyr kun at forhåndsdefinerte terskler for avbrudd ikke ble utløst.

Viktig seleksjon i pasientgrunnlaget

Dette var en tydelig selektert gruppe:

• voksne pasienter
• ikke-akutte problemstillinger
• psykiske problemstillinger ekskludert
• setting med tett overvåking

Med andre ord: mange av de mest krevende kliniske situasjonene er ikke med i datagrunnlaget.

Praktikalitet og kostnad: leger fortsatt sterkest

Et interessant funn er at leger scoret bedre enn AMIE på praktikalitet og kostnadseffektivitet. I en norsk kontekst, med sterkere fokus på bærekraft og ressursbruk enn i store deler av amerikansk helsevesen, er dette spesielt relevant.

Preprint + industridrevet forskning krever nøkternhet

Studien er foreløpig en preprint, altså ikke fagfellevurdert enda. I tillegg er den gjennomført av aktøren som utvikler teknologien. Det diskvalifiserer ikke funnene, men krever kritisk lesning. Vi kjenner fra annen medisinsk forskning at positive funn lettere finner veien til publisering enn negative.

Min vurdering

Dette er et godt og viktig steg i riktig retning.

Særlig virker pre-visit anamnese med KI som et realistisk og nyttig bruksområde: pasienten møter bedre forberedt, og legen kan bruke mer tid på klinisk vurdering og felles beslutningstaking.

Men vi er ikke klare for ukritisk bred implementering. Vi trenger flere, større og uavhengige studier før dette bør innføres som standard i klinisk praksis.

Kort sagt: lovende, men foreløpig — og absolutt verdt å følge tett.

Imponerende KI-resultater må stresstestes i virkeligheten

Store språkmodeller scorer nå nær perfekt på medisinske eksamener. Det brukes ofte som argument for at de snart er klare for klinisk bruk. OpenAI tilbyr ChatGPT Health i USA. Dette program skal veilede pasienter om medisinske problemstillinger. Samtidig er det anekdotisk bevis for at det kanskje heller er villedende.

Studien til Bean et al. i Nature Medicine undersøker hvor godt lekfolk klarer å besvare medisinske spørsmål når de bruker KI.

Da modellene ble testet alene på kliniske scenarier, identifiserte de relevante tilstander i over 90 % av tilfellene. Men da virkelige mennesker tok modellene i bruk, falt prestasjonen dramatisk. Brukerne gjorde det ikke bedre enn kontrollgruppen – og i identifikasjon av relevante tilstander var de faktisk dårligere. Konklusjonen er at modellene er ikke klare for direkte pasientbruk.

Menneske + KI ≠ bedre resultat

Et av de mest interessante funnene er at LLM alene presterte bedre enn LLM brukt av mennesker. Vi ka altså ikke automatisk forvente synergieffekt av bruk av KI.

Problemet ligger i interaksjonen:

• Brukeren gir ufullstendig informasjon
• Modellen genererer flere plausible alternativer men det er brukeren som gjør det endelige (feilaktige) valget
• Brukeren har ikke kunnskap til å tolke resultatet

Da blir slutningen feil.

I min artikkel i Tidsskriftet argumenterer jeg for at vi i fremtiden må bli flinkere til å jobbe med KI. Jeg gir et eksempel på hvordan KI kan brukes effektivt i virkeligheten – men det forutsetter forståelse, opplæring og riktig design.

Andre utfordringer

Små variasjoner i hvordan symptomer ble formulert kunne resultere i endrede råd – fra “legg deg i et mørkt rom” til “søk akutt hjelp”.

I tillegg peker forfatterne på at utviklere kan ha insentiv til å gjøre modellene risikoaverse. Selv små forskyvninger i triageråd kan få systemeffekter dersom millioner bruker slike verktøy.

Det kan gå ut over pasienters helse og det kan resultere i at helsetjenesten ikke blir bærekraftig. Det kan altså virke mot sin hensikt å ukritisk be pasienter bruke nåværende KI modeller.

Snikinnføring av KI i helse skjer nå – hva gjør vi?

I en ny debattartikkel i Dagens Medisin retter jeg søkelyset mot en utvikling som skjer raskere enn den offentlige samtalen klarer å følge: innføringen av kunstig intelligens i helsetjenesten, ofte uten tydelig regulering eller demokratisk forankring.

«Vi må bygge systemer for samspill mellom lege og maskin – ikke stumt tillate at globale selskaper omgår våre lover og verdier. I tillegg trenger vi opplysningskampagner der gir befolkningen nødvendig kunnskap til å kunne navigere KI-landskapet».

👉 Les hele artikkelen i Dagens Medisin

Symbiotisk intelligens i helsevesenet

Jeg har reflektert over hvordan vi best kan oppnå symbiotisk intelligens ved bruk av kunstig intelligens til klinisk bruk.

Resultatet er en artikkel publisert i Tidsskrift for den norske legeforening:
Symbiotisk intelligens i helsevesenet

Artikkelen er anbefalt lesing for leger og andre som skal bruke eller utvikle KI-systemer til bruk innen helsevesenet.
Den diskuterer hvordan kunstig intelligens bør integreres som støtte for klinisk skjønn – ikke som erstatning – og hvordan teknologiens nytte først realiseres når den kombineres med menneskelig innsikt, kritisk refleksjon og profesjonell dømmekraft.

Jeg håper teksten kan bidra til en mer nyansert og ansvarlig tilnærming til KI i helsetjenesten.

Når pasienten møter algoritmen – tillit, fastlegen og kunstig intelligens

Hvordan opplever pasienter kunstig intelligens i helsevesenet? En nylig publisert systematisk gjennomgang i JMIR AI kaster lys over et overraskende underbelyst tema: pasientenes egne stemmer.

I en tid der kunstig intelligens (KI) blir stadig mer integrert i klinisk praksis, er det bemerkelsesverdig hvor lite vi vet om pasientenes perspektiver. Den nye systematiske gjennomgangen av Mundzic et al., publisert i JMIR AI tidligere i år [¹], forsøker å bøte på nettopp dette kunnskapsgapet. På tross av et omfattende søk som inkluderte over 1000 artikler, endte forfatterne opp med kun 6 relevante studier. Til sammen representerer disse 170 pasienter, fordelt på bare tre land: Canada, Danmark og USA.

Det lave antallet studier og deltakere i seg selv er en tydelig påminnelse: vi bygger KI-systemer for et helsevesen der pasientene knapt er hørt.

Det danske unntaket

Av de seks inkluderte studiene peker særlig ett seg ut som relevant i en norsk kontekst – det danske studiet av Mikkelsen et al., publisert i BMC Health Services Research i 2023 [²]. Her intervjuet forskerne ti pasienter i allmennpraksis om deres forhold til fastlegen, deling av helsedata og bruk av KI. Resultatene er verdt å dvele ved.

Pasientene uttrykte høy grad av tillit til fastlegen og var positive til å dele helsedata – så lenge legen forble beslutningstaker. KI ble ansett som et potensielt nyttig støtteverktøy, men ikke en erstatning for menneskelig dømmekraft. Det var et gjennomgående ønske om at teknologien skulle støtte, ikke erstatte, relasjonen til fastlegen. Flere uttrykte eksplisitt at en «maskin» ikke kunne ha et tillitsforhold på samme måte som et menneske.

Dette funnet er i tråd med hovedtemaene som Mundzic et al. trekker frem i sin syntese: pasientene er åpne for KI, men bare dersom den implementeres med forsiktighet og respekt for både autonomi og relasjonelle verdier.

Når tillit er teknologiens valuta

Det kanskje mest interessante med både den danske studien og meta-syntesen, er hvordan de setter tillit i sentrum. Ikke bare som et moralsk ideal, men som en forutsetning for at teknologien i det hele tatt skal kunne tas i bruk. Pasientene er ikke teknofobe – de er selektivt tillitsfulle. De skiller mellom ulike aktører (fastlegen, staten, kommersielle selskaper) og mellom ulike formål for datadeling (behandling, forskning, kommersiell utnyttelse).

Dette nyanserte synet på tillit peker mot en dypere innsikt: teknologisk aksept er ikke et binært spørsmål, men et etisk landskap. Og i dette landskapet er fastlegen fortsatt en nøkkelfigur – ikke bare som helsepersonell, men som tillitsforvalter.

Fra deling til forståelse

Et særlig tankevekkende funn fra Mikkelsen-studien er at pasientenes aksept for datadeling ofte var betinget av anonymisering, men også av forståelse for hvordan dataene faktisk skulle brukes. Flere pasienter ønsket innsyn i – og kontroll over – hva som skjedde med informasjonen deres. Dette peker mot et behov for større transparens og medvirkning i utviklingen av KI-løsninger for helsetjenesten.

Vi kan ikke lenger snakke om KI som noe som skjer i bakgrunnen. Når teknologien blir en del av pasientmøtet, må pasienten også bli en del av teknologien.

Hvor går veien videre?

Mundzic et al. konkluderer med at det finnes et betydelig kunnskapshull. Ingen av studiene de inkluderte tok for seg pasienters forhold til store språkmodeller (LLM) som ChatGPT, selv om slike systemer allerede er i bruk i helsetjenesten. Dette utgjør en alvorlig forskningsmessig og etisk blindsone.

Det danske studiet gir oss likevel noen holdepunkter: pasienter er åpne for KI – dersom den er transparent, støtter relasjonen til fastlegen og ikke erstatter menneskelig dømmekraft. Det er en innsikt som bør forme både fremtidig forskning og teknologiutvikling.

Avslutning

I møte med teknologisk innovasjon er det lett å glemme menneskene som teknologien er ment å tjene. Studiene til Mundzic og Mikkelsen minner oss om at tillit, relasjon og forståelse fortsatt er de bærende søylene i helsevesenet – også i KI-tiden. Skal kunstig intelligens lykkes i primærhelsetjenesten, må den bygges på pasientens premisser, ikke bare på teknologens visjoner.

Eller som pasientene i det danske studiet uttrykte det: Det må være legen som tar avgjørelsene.

Lenker og referanser

1. Mundzic et al. Exploring Primary Care Patients’ Perspectives on Artificial Intelligence: Systematic Literature Review and Qualitative Meta-Synthesis. JMIR AI, 2025.
   https://www.ncbi.nlm.nih.gov/pmc/articles/PMC12629519/
2. Mikkelsen et al. Patient perspectives on data sharing regarding implementing and using artificial intelligence in general practice – a qualitative study. BMC Health Services Research, 2023.
   https://doi.org/10.1186/s12913-023-09324-8

Ny video: Kunstig intelligens og helsevesenet – refleksjoner fra Intelligente Bergen 2025

I forbindelse med konferansen Intelligente Bergen 2025 har jeg laget en videopresentasjon som belyser hvordan kunstig intelligens kan brukes i e-konsultasjoner mellom lege og pasient i allmenn praksis.

👉 Se videoen på YouTube
📖 Les mer om konferansen hos UiB

CE-merking eller ikke? Hvorfor vi trenger tydelige regler for KI-transkripsjon i helsevesenet

Etter å ha lest den nylige artikkelen av jurist Julia Brodshaug og analytiker Lars Kristian Morka i Lovdata om CE-merking og kunstig intelligens i journalføring, sitter jeg igjen med to følelser: takknemlighet og uro.

Takknemlighet fordi teksten er grundig, klargjørende og etterlengtet. Uro, fordi den samtidig illustrerer hvor uklart og skjønnspreget landskapet fortsatt er – og hvor stort ansvar som i praksis overlates til enkeltleger.

Regelverket er – foreløpig – tydelig i sin uklarhet

Brodshaug og Morka argumenterer overbevisende for at det per i dag ikke finnes juridisk grunnlag for å kreve CE-merking av KI-baserte transkripsjonstjenester. De begrunner dette med at slike verktøy ikke nødvendigvis faller inn under definisjonen av medisinsk utstyr i henhold til MDR (Medical Device Regulation), og at det derfor ikke automatisk utløses krav om CE-sertifisering.

Dette skaper samtidig et farlig vakuum: I mangel på eksplisitte krav overlates det til helsepersonell – og i ytterste konsekvens til den enkelte lege – å vurdere hvorvidt teknologien er forsvarlig å bruke. Det er ikke rimelig.

Fra teknologi til klinisk praksis: Hva skjer når transkripsjonen blir journal

Når en transkripsjon fra en samtale automatisk genereres og legges inn som utkast til journalnotat, går teksten fra å være en hjelpeteknologi til å bli en klinisk vurdering.

I forskningen jeg har gjort på bruk av KI i allmennpraksis, har jeg sett hvordan feil kan oppstå i KI-genererte notater. Det kan være små nyanser – som at “aldri hatt hjertesykdom” blir til “har hatt hjertesykdom” – men konsekvensene kan være store, særlig i spesialisthelsetjenesten hvor legen som leser journalen, ikke kjenner pasienten.

Forslag til minstekrav

Jeg mener at vi trenger tydelige retningslinjer og krav for KI-baserte transkripsjonstjenester i helsevesenet. Et forslag kan være:

• Sporbarhet: Det må fremgå hva som er generert av maskin, og når.
• Redigerbarhet: Legen må ha full kontroll over innholdet før det journalføres.
• Versjonskontroll: Endringer må kunne spores – av hensyn til ansvar og dokumentasjon.
• Personverngarantier: Taleopptak og transkripsjoner må lagres slik at man i etterkant kan se hva som faktisk har blitt sagt.
  [NB! Dette introduserer ytterligere komplikasjoner som jeg ikke skal gå i dybden med her.]
• Audit-funksjonalitet: Det må være mulig å føre revisjon i ettertid dersom noe går galt.

Et steg i riktig retning

Jeg sitter ikke med alle svarene, men kan konkludere med at den refererte artikkelen er et viktig steg i rett retning. Den viser at vi trenger tydeligere rammer, og at diskusjonen om ansvar, risiko og pasientsikkerhet må løftes fra enkeltlegenivå til nasjonalt nivå.

Skepsis som ressurs – en nødvendig avslutning på en viktig debatt

I kjølvannet av kronikken min i Dagens Medisin tidligere i år har debatten om kunstig intelligens i helsetjenesten engasjert mange – både fagfolk, teknologer og helsepolitikere. Det har vært gledelig å se at spørsmål om skjønn, ansvar og tillit settes på dagsordenen, ikke minst i møte med en teknologi som stadig tar mer plass i klinisk praksis.

Nå har jeg skrevet en oppsummerende avslutning på debatten, der jeg forsøker å rydde i begrepene og løfte frem skepsis som en produktiv kraft – ikke som en bremsekloss. Vi trenger hverken naiv teknologioptimisme eller teknologifrykt, men en moden samtale om hvordan vi skal bruke disse verktøyene klokt, etisk og ansvarlig.

👉 Les innlegget i Dagens Medisin: Skepsis som ressurs – Kunstig intelligens mellom trygghet og teknologisk determinisme

📢 Ny kronikk i Dagens Medisin

Hva skjer når kunstig intelligens skriver journalen – og ingen trippelsjekker?

I mitt nyeste debattinnlegg advarer jeg mot en utvikling der KI-notater automatisk havner i pasientjournalen med mulighet for store feil.

👉 Les innlegget hos Dagens Medisin

Vestres KI-helsebot: Visjon, valgflesk eller varslet fadese?

Da helseminister Jan Christian Vestre nylig annonserte at han ønsker en nasjonal KI-helsebot, presentert som et offentlig alternativ til Google og ChatGPT, var det mange som fikk deja-vu. Vi har sett denne filmen før: store løfter om teknologiske kvantesprang, etterfulgt av forsinkelser, milliardsprekk og prosjekter som aldri helt leverer det de skulle. Axon-prosjektet er et nærliggende eksempel – på papiret en visjon, i praksis et pengesluk.

Risikoen for feilprioritering

La oss starte med det åpenbare: Norge trenger digitalisering i helsesektoren. Men vi trenger det på mange fronter, ikke bare i form av en storslått språkmodell styrt av Helsedirektoratet. Elektronisk multidose, helsekort for gravide, sømløs journalutveksling – dette er prosjekter som har direkte og umiddelbar betydning for både pasientsikkerhet og arbeidsflyt i helsetjenesten. Det som uroer meg, er at Vestres «luftskip» kan suge til seg ressurser på bekostning av disse mer jordnære, men livsnødvendige satsingene.

Kan staten konkurrere med Silicon Valley?

Vestre drømmer om et norsk svar på ChatGPT, men historien gir liten grunn til optimisme. Jeg kan faktisk ikke komme på et eneste eksempel der staten har klart å konkurrere på like vilkår med kommersielle aktører og vunnet – i et kapitalistisk kappløp.

Forskjellen ligger ikke bare i budsjett og talenttilgang, men i brukeropplevelse. ChatGPT er designet for å være sømløs, rask og intuitiv. Jeg tviler sterkt på at Helsedirektoratet kan bygge noe som matcher dette, uansett hvor edle intensjonene er. Selv om en norsk bot kunne gi mer kontekstspesifikke og riktige svar for norske forhold, vil den tape dersom den er tungvint og treg i bruk.

Den enkle, men politisk vanskelige løsningen

Det finnes faktisk en mer realistisk tilnærming: regulering. Hvis norske myndigheter lovfester at kommersielle KI-selskaper ikke har lov til å gi medisinske råd eller tilby psykologhjelp uten særskilt godkjenning, åpner man naturlig et rom for norske og europeiske aktører.

Ironisk nok hadde tidlige versjoner av ChatGPT nettopp slike sperrer – man fikk ikke lov til å stille helserelaterte spørsmål. Nå, når OpenAI er blitt et fullt profittdrevet selskap, er slusene åpnet, og grensene viskes ut. Hvorfor skal Norge kjempe mot dette med egne midler, når regulering kunne skape trygghet og marked?

At Vestre ikke velger denne åpenbare løsningen, men heller setter i gang et nytt, ressurskrevende prosjekt, lukter mer av valgkampstrategi enn av helsefaglig fornuft.

Konklusjon: Fra visjon til virkelighet?

Spørsmålet er ikke om KI kan være nyttig i helsetjenesten – det kan den, og det vet vi allerede. Spørsmålet er om staten har muskler, kultur og kompetanse til å bygge en løsning som faktisk blir brukt. Jeg tviler. Risikoen er stor for at vi står igjen med enda et prestisjeprosjekt som havarerer under sin egen tyngde.

Hvis vi virkelig vil ha en trygg og funksjonell digital helsetjeneste, må vi satse på både små og store prosjekter, og vi må bruke lovgivning der markedet løper foran oss. En nasjonal KI-helsebot kan kanskje bli et supplement – men faren er stor for at den ender opp som et nytt luftslott i norsk e-helsehistorie.

Når KI ikke lærer: Hvorfor fine-tuning av språkmodeller svikter i medisinen

“None of the models exhibited robust generalizability of the knowledge presented during fine-tuning.”

— Wu et al., NEJM AI, juli 2025

Kunstig intelligens lover mye – og språkmodeller som GPT-4o og Gemini representerer teknologiske milepæler. Men hva skjer når disse modellene møter kravet om oppdatert medisinsk kunnskap? En ny studie fra Stanford University undersøker nettopp dette – og konklusjonen er både nyansert og urovekkende.

Fine-tuning er ingen magisk oppdatering

Artikkelen fra NEJM AI setter søkelys på en utfordring som ofte overses i den kliniske KI-debatten: Når guidelines og legemiddelinformasjon endres, hvordan oppdaterer vi språkmodeller som har et innebygd “cutoff” for kunnskap?

Forskerne testet seks frontier-modeller – blant annet GPT-4o, Gemini 1.5 og LLaMA – og fine-tunet dem via kommersielle API-er med ny kunnskap fra FDA, MIMIC-IV og NEJM Journal Watch. Resultatene var tydelige:

• Modellene memoriserer treningsdata, men generaliserer dårlig til nye kliniske scenarier.
• GPT-4o mini gjorde det best – men klarte kun 51 % korrekt på nye legemidler og 33 % på pasientdata.
• Gemini- og LLaMA-modellene bommet totalt i flere tester, med 0 % treff i enkelte tilfeller.

Dette er ikke små detaljer. Det handler om modellens evne til å forstå og anvende ny kunnskap i kontekst – for eksempel å anbefale riktig blodtrykksmål i lys av nye retningslinjer. Og der svikter fine-tuning i dag.

Liten modell, bedre læring?

Et av de mest interessante funnene er at små modeller (som GPT-4o mini) lærer bedre via fine-tuning enn større søsken som GPT-4o. Dette utfordrer en vanlig antakelse om at “større er bedre” i KI-verdenen.

Forklaringen? Antagelig handler det om arkitektur, parameterjustering og kapasitet for endring. Jo større modellen er, desto vanskeligere er det å lære noe nytt uten å glemme det gamle – et kjent problem innen catastrophic forgetting.

Men dette reiser også et praktisk spørsmål: Bør klinisk rettet KI i større grad baseres på mindre, mer spesialiserte modeller? Hvis målet er lokal tilpasning og hyppig oppdatering, kan det være en fruktbar vei.

Fine-tuning svekker annen kunnskap

Det kanskje mest urovekkende funnet er at fine-tuning ikke bare har begrenset effekt – det kan også svekke modellens evne til å besvare mer generelle medisinske spørsmål. GPT-4o mini falt fra 71,4 % til 66,4 % i nøyaktighet på MedQA etter fine-tuning.

Altså: Ved å lære noe nytt, glemmer modellen noe annet. Dette gjør at commercial fine-tuning ikke bare er ineffektiv – den kan være direkte risikabel i klinisk kontekst.

Hva betyr dette for norsk helsetjeneste?

I Norge er det stadig større interesse for å bruke kommersielle språkmodeller i kliniske verktøy – særlig til oppsummering, journalføring og beslutningsstøtte. Men funnene i denne artikkelen bør dempe forventningene.

1. Fine-tuning fungerer ikke godt nok for oppdatert kunnskap.
2. Generaliseringssvikt kan gi falsk trygghet i klinisk bruk.
3. Transparens i modellens oppdateringsmekanismer er helt avgjørende.

Det er verdt å merke seg at Retrieval-Augmented Generation (RAG) fortsatt ser ut til å være den tryggeste metoden for kunnskapsoppdatering. Selv om den har sine svakheter – som hallucinasjon og kontekstsvikt – er RAG i det minste reversibel og kontrollerbar.

Hva bør vi gjøre?

• Regulatorer bør stille tydelige krav til hvordan oppdatering av KI skjer – og kreve dokumentasjon på at nye guidelines faktisk er inkorporert.
• Utviklere må teste sine modeller med mer enn bare memorisering – generaliseringsevne er klinisk kritisk.
• Klinikere bør være svært forsiktige med å stole på at fine-tunede modeller er oppdatert – og bør etterspørre transparens og evaluering.

Referanse:

Wu, E., Wu, K., & Zou, J. (2025). Limitations of Learning New and Updated Medical Knowledge with Commercial Fine-Tuning Large Language Models. NEJM AI, 2(8). https://doi.org/10.1056/AIcs2401155

Terapeutisk allianse eller psykologisk illusjon? KI i psykisk helse

De siste årene har vi sett en eksplosiv vekst i bruken av kunstig intelligens (KI) i helsetjenesten. Samtidig som teknologien åpner for nye muligheter, beveger den seg også inn i områder preget av stor menneskelig sårbarhet. Særlig innen psykisk helse reises spørsmål som går langt utover effektivitet og innovasjon: Hva skjer når relasjon, omsorg og tillit – kjerneelementer i terapi – simuleres av maskiner uten bevissthet eller ansvar?

Innen psykisk helse er dette særlig alvorlig. Mange som søker hjelp befinner seg allerede i en sårbar situasjon. Her kan feilinformasjon, manglende dømmekraft og fraværet av genuin omsorg føre til skade – ikke bare skuffelse. Uten betydelig menneskelig overvåking kan KI i beste fall bli ineffektiv, i verste fall direkte farlig.

Det er derfor oppsiktsvekkende at det allerede finnes selskaper som tilbyr behandlings-chatboter. I en nylig publisert artikkel i NEJM AI konkluderte forskere med at slik behandling kunne være effektiv
👉 Les artikkelen her.

Men som Gratch og Essig påpeker i sin kommentar til redaktøren, var det flere metodologiske svakheter ved studien.

Den mest grunnleggende gjaldt hvordan man målte «terapeutisk allianse» mellom deltakerne og chatboten. Forskerne benyttet Working Alliance Inventory – Short Revised (WAI-SR), et verktøy validert for menneske-til-menneske-relasjoner. Som Gratch og Essig understreker, innebærer dette en klassisk utgave av William James’ psychologist’s fallacy: å projisere en menneskelig relasjonell struktur på en interaksjon der det ikke finnes noe faktisk subjekt, ingen intensjonalitet og ingen gjensidighet.

WAI-SR kan fange deltakernes subjektive opplevelse av rapport eller engasjement, men det betyr ikke at en genuin terapeutisk allianse eksisterer.

Dette illustrerer en kjerneutfordring: Vi mangler fortsatt metodologiske verktøy for å evaluere KI i behandlingskontekster. Når teknologien skaper inntrykk av empati og gjensidighet, men mangler både bevissthet og ansvar, kan vi lett bli lurt av vår egen tilbøyelighet til å antropomorfisere maskiner.

Når kunstig intelligens møter psykisk helse: Et tveegget sverd

Debatten om kunstig intelligens (KI) kretser ofte rundt produktivitet, innovasjon og muligheter. Men i skyggen av disse visjonene ser vi stadig tydeligere hvordan KI også kan medføre betydelig psykisk og fysisk skade. Det gjelder ikke minst i møte med de mest sårbare områdene av menneskelig erfaring – som psykisk helse.

KI-baserte samtaleagenter kan allerede i dag fremstå empatisk, engasjerende og overbevisende. Når slike systemer samtidig er trent på å maksimere «engagement», uten en tilsvarende prioritering av sikkerhet, skapes et farlig spenningsfelt: teknologien kan fange mennesker i en relasjonell illusjon uten at den har menneskelig dømmekraft eller etisk ansvar. Jo mer hukommelse og kontekst systemene får, desto sterkere blir opplevelsen av kontinuitet og tilstedeværelse – som igjen øker risikoen for at brukere utvikler avhengighet eller misforstått tillit.

Innen psykisk helse er dette særlig alvorlig. Her snakker vi om individer som ofte befinner seg i en sårbar situasjon, med behov for støtte, omsorg og profesjonell vurdering. Bruken av KI uten betydelig menneskelig overvåking er derfor ikke trygg. Den kan skape falske forhåpninger, forsterke isolasjon, og i verste fall lede til direkte skadelig påvirkning – enten ved utilsiktede råd, eller ved at systemet forsterker selvdestruktive mønstre.

Dette er grunnen til at Europas strengere regulering av KI – med AI Act som et nytt rammeverk – er avgjørende. Regulering kan aldri eliminere risiko, men den kan legge føringer som gjør at teknologi som berører helse, relasjoner og menneskelig sårbarhet ikke overlates til kommersielle insentiver alene.

For en aktuell diskusjon om disse problemstillingene, anbefaler jeg episoden Your Undivided Attention hvor vertene forklarer hvordan en 16 år gammel gutt først brukte ChatGPT 4o til leksehjelp og siden til å begå selvmord.

Det sentrale spørsmålet blir dermed: Hvem skal ha ansvaret for å beskytte mennesker når KI beveger seg inn i livets mest intime og sårbare rom? Svaret kan ikke være teknologiselskapenes egen samvittighet da denne trumfes av kapitalisme.

Kunstig intelligens i OSCE-forberedelser – reell gevinst eller metodologisk skinn?

En nylig publisert artikkel i NEJM AI undersøker hvordan medisinstudenter presterer på OSCE etter å ha trent med en AI-basert simuleringsplattform (DocSimulator). Studien, et randomisert kontrollert forsøk ved universitetet i Montpellier, viste at studentene som brukte den AI-standardiserte kliniske eksamenen (ASCE) oppnådde noe høyere skårer enn kontrollgruppen (median 11,4 vs. 10,7 av 20; p = 0,02). Effekten var liten – mindre enn ett poeng – men statistisk signifikant.

I tillegg rapporterte studentene i intervensjonsgruppen lavere stressnivå og større emosjonell beredskap før eksamen. Flere opplevde også AI-simuleringene som realistiske, nesten som å samhandle med virkelige pasienter.

Men hvor stor er egentlig effekten?

Effektstørrelsen er beskjedent. En gevinst på under ett poeng på en 20-poengsskala kan i praksis være marginal, og studien peker selv på at dette sannsynligvis skyldes små forbedringer spredt over mange deloppgaver snarere enn en markant styrking av spesifikke ferdigheter.

Samtidig er det metodologisk interessant at kontrollgruppen kun hadde tilgang til «standard trening» – i praksis kliniske rotasjoner og noen få fakultetsarrangerte OSCE-øvelser i løpet av året. Det betyr at intervensjonen ikke ble testet mot en alternativ, like intens ressursbruk (f.eks. ekstra tradisjonell undervisning eller utvidet øvingsmulighet), men snarere mot fraværet av slik tilleggstrening. Dermed er det vanskelig å vite om det er AI i seg selv som gir gevinsten, eller om enhver strukturert, ekstra treningsarena ville hatt samme effekt.

Mestringsfølelse og motivasjon

Et interessant funn er at studentene rapporterte større trygghet og lavere stress. Psykologisk sett er dette ikke trivielt. I møte med en høyst presset eksamenssituasjon kan opplevd mestring være minst like viktig som marginelle kunnskapsgevinster. Dette gir AI-verktøy en potensiell verdi som supplement – ikke nødvendigvis fordi de fundamentalt forbedrer kliniske ferdigheter, men fordi de senker terskelen for å øve, og dermed reduserer prestasjonsangst.

Kritisk vurdering

Studien er metodisk robust (randomisering, blinding av sensorer, kontrollstasjon som ikke kunne påvirkes av AI-trening), men har også klare begrensninger:

• Små effekter – klinisk signifikans er diskutabel.
• Selvrapporterte sekundærutfall – emosjonell beredskap og stress er målt med Likert-skalaer, sårbare for bias.
• Generalisering – studien er gjennomført ved én institusjon, og resultatene kan være kontekstavhengige.
• Manglende alternativ intervensjon – kontrollgruppen fikk ikke tilsvarende mengde ekstra strukturert trening, noe som kan forklare deler av forskjellen.

Hva betyr dette for medisinsk utdanning?

AI-simuleringer som ASCE bør forstås som et supplement snarere enn en erstatning for klassiske læringsformer. De kan bidra til mer jevnlig trening, redusere logistiske barrierer, og gi studentene en trygghet som er viktig i eksamenssituasjoner. Men om AI virkelig er «transformativt» for læringsutbyttet, eller bare fyller hullet etter manglende ressurser i dagens OSCE-trening, er fortsatt et åpent spørsmål.

Det neste steget bør være studier som sammenligner AI-trening med andre former for intensivert, men ikke-AI-basert, ekstraundervisning. Først da kan vi avgjøre om det er teknologien i seg selv – eller ganske enkelt strukturen og mengden trening – som gir utslag.

📘 Ny bok: Mellom menneske og maskin – KI-refleksjoner fra legekontoret

I møte mellom lege og pasient skjer noe grunnleggende menneskelig – et møte mellom erfaring, skjønn og tillit. Hva skjer når vi inviterer kunstig intelligens (KI) inn i dette rommet? Hvordan påvirker språkmodeller, transkripsjonsverktøy og beslutningsstøtte både medisinsk praksis og relasjonelle dybder? I den nye boken Mellom menneske og maskin tar jeg, fastlege og forsker Damoun Nassehi, leseren med på en reise gjennom teknologiens fremmarsj i allmennmedisinen.

Boken er gratis tilgjengelig på flere plattformer, og egner seg for både leger, medisinstudenter og helsepersonell som ønsker en grunnleggende, men reflektert introduksjon til bruk av KI og store språkmodeller i medisinen.

📖 Les boken gratis på:

• Apple Books
• Google Play

💰 Ønsker du å støtte forfatteren?
Da kan du kjøpe boken på Kindle:

• Kindle (Amazon)

Ny digital støtte for fastleger: Vaksinasjonsveileder for voksne

I arbeidet med å gjøre helsetjenesten mer presis og tilgjengelig, har jeg utviklet et program som kan hjelpe fastleger med å velge riktig vaksine for voksne i tråd med det nasjonale voksenvaksinasjonsprogrammet.

Verktøyet er ment som en støtte i klinisk hverdag og følger Helsedirektoratets anbefalinger. Det er særlig utviklet for bruk i forbindelse med vaksinasjon mot influensa, COVID-19 og pneumokokker i 2025/2026-sesongen.

• ✅ Prøv verktøyet: https://nassehi.no/vaksinasjon.html
• 💻 Se kildekoden: https://github.com/dnassehi/vaksinasjon

Programmet er fritt tilgjengelig under Apache 2.0-lisens, og kan gjenbrukes og videreutvikles av andre. Jeg oppfordrer alle som finner feil eller har forslag til forbedringer, til å melde dette via GitHub.

Målet er å senke terskelen for voksenvaksinasjon og støtte en mer treffsikker forebygging i primærhelsetjenesten.

“Health companions” og fastlegeavlastning: Et nødvendig realitetsorientert blikk

av Damoun Nassehi - 01-aug-2025

Professor Krumsvik og kollegaer har i sin ferske artikkel i Digital Health presentert et spennende og ambisiøst fremtidsscenario: En KI-drevet health companion som skal bidra til oppgaveglidning og avlastning av fastleger. Artikkelen bygger videre på tidligere arbeid fra samme gruppe og benytter nyere norske data for å underbygge ideen (Krumsvik et al., 2025).

At KI kan spille en rolle i fremtidens helsetjeneste er det liten tvil om. Men det er avgjørende at vi møter slike forslag med både entusiasme og kritisk analyse.

Eksemplene brukt i innlegget er ikke hentet fra eller direkte knyttet til Krumsvik m.fl. sin artikkel i Digital Health, men baserer seg på mine egne erfaringer og andre kilder.

Kliniske prestasjoner i teori – og i praksis?

Et vanlig argument for å støtte slike ideer er at store språkmodeller som GPT-4 har vist imponerende resultater i teoretiske medisinske tester og eksamenssituasjoner. Dette har også fått betydelig medieoppmerksomhet, og noen har tolket dette som en indikasjon på at slike modeller er klare til å ta del i klinisk arbeid.

Som jeg tidligere har diskutert i denne analysen, må vi imidlertid være svært forsiktige med å trekke slike slutninger.

Det er én ting å svare riktig på flervalgsspørsmål – noe helt annet er å forstå det unike mennesket som sitter foran deg. Diagnosen kan være enkel, men pasienten er det sjelden. De psykologiske, sosiale og eksistensielle dimensjonene av sykdom er ofte det som gjør klinisk arbeid så komplekst. Når vi begynner å redusere pasienten til en ren informasjonspakke – et sett med symptomer og svaralternativer – risikerer vi å underminere hele fundamentet for god allmennmedisin.

Jeg har også tatt opp denne problematikken mer eksplisitt i en annen tekst om chatboter som medisinske surrogater (les her). Det finnes foreløpig ikke empirisk grunnlag for å tro at slike systemer kan erstatte fastleger – verken i komplekse eller “enkle” konsultasjoner. For hva er egentlig en enkel konsultasjon?

Digitale verktøy for fastlegen – ikke i stedet for fastlegen

Dette betyr likevel ikke at kunstig intelligens ikke har en plass i fastlegehverdagen. Tvert imot: Jeg mener vi har et enormt uforløst potensial i KI-assisterte verktøy som kan støtte, ikke erstatte, fastlegen. Det handler ikke om science fiction, men om konkret teknologi som kan redusere kognitiv last og administrative byrder.

Eksempler inkluderer systemer som:

• automatisk genererer journalnotater
• samler inn og strukturerer pasientdata fra ulike kilder
• støtter i informasjonsdeling mellom aktører
• strukturerer og forenkler henvisninger og skjemaer

Selv har jeg laget to slike enkle programmer selv – ikke fordi jeg er utvikler, men fordi behovet er så akutt og verktøyene er blitt så tilgjengelige. Men hvor er den nasjonale satsingen?

Etter 15 år i praksis venter jeg fortsatt på:

• et elektronisk helsekort for gravide
• elektronisk multidose i alle journalsystemer
• digital førerkortattest, uten behov for utskrift og postsending

Dette er konkrete tiltak som ville spart tusenvis av legetimer. Vi trenger politisk og teknologisk vilje til å satse på løsninger som faktisk møter fastlegenes behov – ikke visjoner om framtidige systemer som skal overta vår rolle.

Veien videre: Realisme og nyanser

Professor Krumsvik og hans kolleger skal ha ros for å trekke frem nye perspektiver og forsøke å forestille seg fremtidens helsevesen. Men vi må skille mellom det teoretisk mulige og det praktisk gjennomførbare. Den dype menneskelige kompleksiteten i allmennmedisin lar seg ikke redusere til prediktive modeller – i hvert fall ikke uten at noe fundamentalt går tapt.

Vi kan ikke bygge fremtidens helsetjeneste på en idé om at enkelte oppgaver er enkle. Mennesket er ikke enkelt. Helse er ikke enkelt. Det betyr ikke at vi ikke skal automatisere der vi kan – men vi må gjøre det med respekt for det som ikke kan automatiseres.

Først når – og hvis – vi oppfinner kunstig generell intelligens (KGI), kan vi ta en ny og dypere diskusjon. Frem til da har fastlegen fortsatt en uerstattelig rolle – og trenger gode verktøy, ikke spekulative erstatninger.

Kan en chatbot være en medisinsk surrogat?

NEJM AI publiserte nylig en artikkel med den betimelige og provoserende tittelen Can a Chatbot Be a Medical Surrogate? Artikkelen undersøker hvordan fem store språkmodeller – inkludert ChatGPT, Claude, Gemini, Copilot og Meta AI – responderer på etiske scenarier som oppstår i kliniske situasjoner hvor menneskelig skjønn vanligvis er uunnværlig.

Spørsmålet som stilles er ikke bare teknisk, men dypt eksistensielt: Kan kunstig intelligens noen gang overta rollen som moralsk agent på vegne av et annet menneske? Svaret artikkelen gir, og som jeg deler fullt ut, er nei. Og det handler ikke om at teknologien ikke er avansert nok – men at den aldri kan bli det.

Teknologisk kapasitet versus menneskelig dømmekraft

Artikkelen viser at språkmodeller kan gi konsise og tilsynelatende veloverveide svar på etiske spørsmål. De kan oppsummere retningslinjer, vekte hensyn og speile moralsk språkføring. Men det de ikke kan gjøre – og som er avgjørende – er å ta et reelt ansvar for valg hvor noen taper og noen vinner. De kan støtte etisk refleksjon, men ikke bære dens konsekvenser.

I et av scenariene diskuteres hvorvidt en pasient uten beslutningskompetanse kan ha en LLM som sin etiske surrogat. Det mest slående her er ikke at AI-modellene svarer avvisende, men at én av dem rett og slett skifter tema: “Let’s try a different topic.” Det er som om modellen intuitivt kjenner sine grenser – men det er ikke intuisjon. Det er fravær av forståelse.

Skjønnet som ikke lar seg simulere

Medisinsk etikk handler ofte om gråsoner. Ikke mellom rett og galt, men mellom verdier som er gyldige samtidig, og som trekker i ulike retninger: autonomi mot trygghet, plikt mot empati, standardiserte prosedyrer mot pasientens unike livsfortelling. Slike vurderinger krever ikke bare informasjon, men fordypning – en dyp resonans mellom menneskelig erfaring, faglig innsikt og moralsk sensitivitet.

Dette er ikke beslutninger man kan outsource til statistiske språkmodeller, uansett hvor sofistikerte de måtte være. LLM-er har ingen kropp, ingen relasjoner, ingen erfaring med sykdom eller tap, og dermed ingen emosjonell referanseramme for hva det faktisk vil si å dø, eller å leve med konsekvensene av et medisinsk valg.

Et ansvar som ikke kan delegeres

Det er lett å la seg imponere av teknologien – og det skal vi også være. LLM-er kan være til stor hjelp i klinikken, både for å strukturere tenkning, gi oversikter over retningslinjer og tilby formuleringer som kan fremme tverrfaglig refleksjon. Men vi må ikke la hjelpemiddelet forveksles med beslutningstakeren.

Når vi spør om en chatbot kan være en medisinsk surrogat, avslører vi samtidig en mulig fremtidig fristelse: å delegere det vanskeligste ansvaret i klinikken til en aktør som aldri vil merke tyngden av valget. Men i det øyeblikket vi fraskriver oss ansvaret for å ta slike avgjørelser selv – i dialog med pasienten, med kolleger, med samvittigheten – har vi også gitt avkall på det som gjør oss til fagpersoner og medmennesker.

En annen intelligens

Avslutningsvis peker artikkelen på behovet for det man kunne kalle en annen type intelligens: en intelligens som evner å veksle mellom regler og empati, mellom prinsipp og skjønn, og som tåler at noen beslutninger ikke har et korrekt svar, men bare et ansvarlig svar.

Det er et ansvar vi må insistere på å eie selv – ikke fordi vi alltid vet best, men fordi vi vet hva det koster å ta feil. Og fordi vi vet hva det betyr å være menneske i møte med sykdom, usikkerhet og død.

Microsofts “Medical Superintelligence”: Når imponerende tall ikke forteller hele historien

Av Dr. Damoun Nassehi

Microsofts nyeste KI-satsing innen medisin, omtalt som The Path to Medical Superintelligence, presenterer en tilsynelatende revolusjonerende teknologi som hevdes å være fire ganger mer presis enn leger i å løse medisinske mysterier. Dette er påfallende og umiddelbart fengslende – men det er også grunn til refleksjon og skepsis.

Tallene er utvilsomt imponerende. Likevel må vi spørre: under hvilke forhold ble disse resultatene produsert? Sammenligningen med leger mister mye av sin verdi når vi innser at de medisinske ekspertene ble nektet tilgang til oppslagsverk, samarbeid og normale arbeidsprosesser – i motsetning til KI-systemet, som kunne bruke sin fulle “hukommelse”.

Det bringer oss til neste spørsmål: hvilke data ble brukt? At casene var hentet fra NEJM antyder at svaret allerede fantes i KI-systemets treningsdata. Dette er ikke uvesentlig. Tester du en modell på data den allerede har sett, er ikke nøyaktighet lenger et tegn på intelligens – men på gjenkjenning. Den virkelige testen for slike systemer må være hvordan de presterer med nye, uprøvde cases – det vi i klinikken møter daglig.

Jeg bruker selv GPT-modeller i diagnostisk arbeid. De er nyttige som sparringspartnere i komplekse differensialdiagnostiske vurderinger. Likevel krever de erfaring og kritisk sans hos brukeren. For uerfarne klinikere kan de like gjerne skape forvirring som klarhet.

En fremtidig medisinsk KI bør ikke bare gi presise svar, men også ta hensyn til klinisk epidemiologi og bærekraftig medisin. Det må foreslå de mest effektive og kostnadsbesparende tester og samtidig vite når den skal avstå fra videre tester og utredning – en evne som er lite diskutert og dokumentert i litteraturen og forskningsresultater.

Vi må spørre oss hvordan slike systemer vil prestere ved neste pandemi, eller ved nye sykdommer vi ennå ikke har sett. Kan vi stole på en intelligens som bare forstår fortiden?

KI i medisin er på vei inn i praksis, og det er ingen vei tilbake. Men mens vi om noen år vil undre oss over hvordan vi klarte oss uten slike verktøy, må vi samtidig vokte oss for å miste vår kliniske dømmekraft. KI gir ikke innsikt – den gir mønstergjenkjenning. Det er fortsatt vår oppgave å vurdere, tolke og handle.

Hvorfor vi må beholde kontrollen over våre egne helsedata

Jeg har skrevet et debattinnlegg i Dagens Medisin om hvorfor vi må sikre nasjonal kontroll over digital helseforskning og bruken av norske helsedata. Det handler ikke bare om teknologi – det handler om tillit, demokratisk forvaltning og strategisk utvikling av kompetanse og infrastruktur.

🔗 Les hele innlegget her

Hvorfor dette er viktig:

• Trygghet og tillit: Helsedata må forvaltes slik at befolkningens tillit ivaretas – både etisk og juridisk.
• Nasjonal verdiskaping: Når analyser og innsikt skapes i Norge, bygger vi kompetanse, innovasjon og bærekraftig næringsutvikling.
• Fart og forenkling: For å realisere potensialet i digital helseforskning, må vi redusere unødvendige barrierer og akselerere tilgang for forskere og klinikere.

Vi har teknologien og talentet – nå må vi også ha politisk vilje og struktur for å bruke våre egne helsedata til å løse våre egne helseutfordringer.

Når pasienter stoler for mye på maskiner: Et nytt argument for medisinsk skjønn

I en tidligere tekst diskuterte jeg hvorfor det er avgjørende at leger – ikke lekfolk – vurderer medisinske anbefalinger generert av kunstig intelligens (KI). Den gang tok jeg utgangspunkt i et norsk studie som viste at lekfolk vurderte KI genererte helseråd høyt, også når det gjalt validiteten av besvarelsen. Nå bekreftes og utdypes disse bekymringene i et nytt, internasjonalt studie publisert i NEJM AI – og resultatene er både interessante og foruroligende.

Algoritmens autoritet: Et blindt punkt hos pasientene?

Det nye studiet, publisert i NEJM AI, undersøker hvordan pasienter oppfatter medisinske råd når de vet at disse kommer fra en algoritme. Forskerne fant at når deltakerne ble fortalt at svaret stammet fra en KI-modell, vurderte de rådene som mer hjelpsomme, mer troverdige, mer presise, og lettere å forstå – selv når kvaliteten på selve innholdet var uendret. Dette fenomenet kalles gjerne algorithm appreciation – en form for autoritetstro overfor teknologiske systemer.

Dette er mer enn bare et psykologisk kuriosum. Hvis pasienter (eller andre helsepersonell) gir algoritmer en form for automatisk tillit, risikerer vi at feil blir oversett, nyanser går tapt, og viktige kliniske vurderinger forsvinner i teknologisk begeistring.

Teknologiens ansikt: Hvorfor kontekst betyr noe

Et vesentlig poeng ved studiet i NEJM AI er at algoritmen ikke hadde et «ansikt» – ingen humanoid avatar, ingen varme formuleringer – bare nøytrale tekster. Likevel ble den oppfattet som mer troverdig. Det antyder at tilliten til KI ikke nødvendigvis er et resultat av godt design, men av en underliggende antakelse: Hvis det er maskinelt, så må det være objektivt.

Men medisinen er ikke objektiv i denne forstand. Den handler om kontekst, preferanser, verdier – og ofte om usikkerhet. Når en pasient spør «Hva bør jeg gjøre?», er det sjelden enkle, binære svar. Det finnes ingen algoritme som fullt ut kan erstatte klinisk dømmekraft, empati og dialog.

En ny type helsefarlig bias?

Det norske studiet jeg tidligere diskuterte, viste hvordan leger ble forledet av feilaktige KI-råd. Nå ser vi at pasienter også kan overvurdere slike råd. Vi står altså overfor en dobbel risiko: En teknologi som kan fremstå som mer presis enn den er, og brukere – både fagfolk og pasienter – som ikke i tilstrekkelig grad stiller kritiske spørsmål.

Dette utfordrer ideen om at KI kan være en «nøytral rådgiver». I realiteten er den et nytt aktørfelt i medisinsk kommunikasjon, med sine egne biaser og påvirkningseffekter.

Hva nå?

Funnene styrker argumentet for at klinisk beslutningstaking må forankres i medisinsk kompetanse og skjønn. Ja, KI kan være et verdifullt verktøy – men bare når det forstås som nettopp det: Et verktøy, ikke en autoritet. Det betyr også at helsepersonell må få opplæring i hvordan KI virker, hvor dens begrensninger ligger, og hvordan man kan integrere slike verktøy i praksis uten å miste faglig integritet.

Og kanskje viktigst: Vi må hjelpe pasienter til å forstå at teknologi ikke er synonymt med sannhet. For noen ganger er det mest menneskelige vi kan gjøre å si: «Jeg vet ikke – men la oss finne ut av det sammen.»

AI i klinikken: Supermenneskelig diagnose eller statistisk støy?

Av Damoun Nassehi

En ny preprint-artikkel med tittelen “Superhuman performance of a large language model on the reasoning tasks of a physician” gjør oppsiktsvekkende påstander: en stor språkmodell (LLM) fra OpenAI – den såkalte GPT-o1 preview – skal ha overgått erfarne leger i flere diagnostiske oppgaver, inkludert reelle sykehusinnleggelser ved en akuttavdeling i Boston.

Du finner artikkelen her på arXiv.org.

Hva studien faktisk viser

Artikkelen skiller seg ut ved å kombinere standardiserte medisinske testsett (som NEJM CPC og NEJM Healer) med reelle journaldata fra akuttmottak. De sammenlignet GPT-o1s vurderinger med leger på tre nivåer:

• Triage i akuttmottak
• Legevurdering ved innkomst
• Innleggelse på sengepost eller intensiv

I alle disse leddene var modellen enten like god eller bedre enn to board-sertifiserte indremedisinere. Faktisk var ytelsen best i de mest krevende situasjonene: når informasjonen var minst tilgjengelig, altså ved første triage.

Resultatene bygger på et stort volum: over 900 differensialdiagnoser ble vurdert av blinde eksperter. Ved triage traff modellen (Bond Score 4–5) i 65.8 % av tilfellene, sammenlignet med 54.4 % og 48.1 % for de to legene.

Mangler og metodiske svakheter

Til tross for det imponerende oppsettet, er det verdt å merke seg flere svakheter:

• Preprint-status: Studien er ikke fagfellevurdert og bør derfor tolkes med varsomhet.
• Manglende konfidensintervaller: For flere av nøkkelfunnene (inkludert akuttmottak-studien) oppgis ikke 95 % konfidensintervaller eller p-verdier i hovedfigurer. Dette gjør det vanskelig å vurdere om forskjellene er statistisk signifikante eller ikke.
• Versjonsproblematikk: Modellen som er testet, GPT-o1 preview, er allerede utdatert. Den ble sluppet i september 2024 – og GPT-4o, som nå er i bruk, ble lansert kort tid etter. Dette understreker hvor rask utviklingen i LLM-verdenen faktisk er.

Marginale forbedringer – mettet benchmark?

Et annet tankevekkende funn er at forbedringen fra GPT-4 til GPT-o1 er relativt marginal. I NEJM Healer-oppgaver fikk GPT-4 perfekt score i 47/80 tilfeller, mens o1 fikk 78/80. I klinisk praksis er ikke nødvendigvis dette en game-changer, særlig når forskjellen i “kan ikke gå glipp av”-diagnoser ikke er signifikant.

Vi står kanskje ved et metningspunkt: modellene blir større, dyrere og mer komplekse – men forbedringene blir mindre og vanskeligere å dokumentere som klinisk relevante.

Hvorfor denne studien likevel er viktig

Likevel er artikkelen verdifull av flere grunner:

1. Den tester AI-modeller mot ekte pasientdata, ikke bare simulerte vignetter.
2. Den inkluderer lege-baserte kontrollgrupper, noe mange tidligere studier ikke har gjort.
3. Den utforsker AI som en andre mening, ikke som en erstatning – et mer realistisk og etisk forsvarlig bruksområde.

Dette er spesielt viktig i et klima hvor mange roper på raske AI-integrasjoner i klinikken – ofte uten tilstrekkelig dokumentasjon.

Avslutning: Trenger vi bedre modeller – eller bedre studier?

Den pågående diskusjonen handler ikke lenger bare om hvorvidt LLM-er kan være “bedre enn mennesker” på visse oppgaver. Det handler om hvordan vi evaluerer, hvor vi implementerer, og hvorfor vi bruker dem i utgangspunktet.

Vi trenger nå ikke nødvendigvis bedre modeller, men bedre studier:

• Prospektive, randomiserte forsøk i klinisk praksis.
• Evaluering av samspill mellom klinikere og LLM.
• Studier av nytteverdi snarere enn ren ytelse.

Og viktigst av alt: vi trenger å moderere forventningene. Forhåpninger om superintelligens må balanseres med nøktern vitenskapelig metodikk og kritisk vurdering.

Lenke til artikkelen: https://arxiv.org/abs/2412.10849