Skepsis som ressurs – en nødvendig avslutning på en viktig debatt

I kjølvannet av kronikken min i Dagens Medisin tidligere i år har debatten om kunstig intelligens i helsetjenesten engasjert mange – både fagfolk, teknologer og helsepolitikere. Det har vært gledelig å se at spørsmål om skjønn, ansvar og tillit settes på dagsordenen, ikke minst i møte med en teknologi som stadig tar mer plass i klinisk praksis.

Nå har jeg skrevet en oppsummerende avslutning på debatten, der jeg forsøker å rydde i begrepene og løfte frem skepsis som en produktiv kraft – ikke som en bremsekloss. Vi trenger hverken naiv teknologioptimisme eller teknologifrykt, men en moden samtale om hvordan vi skal bruke disse verktøyene klokt, etisk og ansvarlig.

👉 Les innlegget i Dagens Medisin: Skepsis som ressurs – Kunstig intelligens mellom trygghet og teknologisk determinisme

📢 Ny kronikk i Dagens Medisin

Hva skjer når kunstig intelligens skriver journalen – og ingen trippelsjekker?

I mitt nyeste debattinnlegg advarer jeg mot en utvikling der KI-notater automatisk havner i pasientjournalen med mulighet for store feil.

👉 Les innlegget hos Dagens Medisin

Vestres KI-helsebot: Visjon, valgflesk eller varslet fadese?

Da helseminister Jan Christian Vestre nylig annonserte at han ønsker en nasjonal KI-helsebot, presentert som et offentlig alternativ til Google og ChatGPT, var det mange som fikk deja-vu. Vi har sett denne filmen før: store løfter om teknologiske kvantesprang, etterfulgt av forsinkelser, milliardsprekk og prosjekter som aldri helt leverer det de skulle. Axon-prosjektet er et nærliggende eksempel – på papiret en visjon, i praksis et pengesluk.

Risikoen for feilprioritering

La oss starte med det åpenbare: Norge trenger digitalisering i helsesektoren. Men vi trenger det på mange fronter, ikke bare i form av en storslått språkmodell styrt av Helsedirektoratet. Elektronisk multidose, helsekort for gravide, sømløs journalutveksling – dette er prosjekter som har direkte og umiddelbar betydning for både pasientsikkerhet og arbeidsflyt i helsetjenesten. Det som uroer meg, er at Vestres «luftskip» kan suge til seg ressurser på bekostning av disse mer jordnære, men livsnødvendige satsingene.

Kan staten konkurrere med Silicon Valley?

Vestre drømmer om et norsk svar på ChatGPT, men historien gir liten grunn til optimisme. Jeg kan faktisk ikke komme på et eneste eksempel der staten har klart å konkurrere på like vilkår med kommersielle aktører og vunnet – i et kapitalistisk kappløp.

Forskjellen ligger ikke bare i budsjett og talenttilgang, men i brukeropplevelse. ChatGPT er designet for å være sømløs, rask og intuitiv. Jeg tviler sterkt på at Helsedirektoratet kan bygge noe som matcher dette, uansett hvor edle intensjonene er. Selv om en norsk bot kunne gi mer kontekstspesifikke og riktige svar for norske forhold, vil den tape dersom den er tungvint og treg i bruk.

Den enkle, men politisk vanskelige løsningen

Det finnes faktisk en mer realistisk tilnærming: regulering. Hvis norske myndigheter lovfester at kommersielle KI-selskaper ikke har lov til å gi medisinske råd eller tilby psykologhjelp uten særskilt godkjenning, åpner man naturlig et rom for norske og europeiske aktører.

Ironisk nok hadde tidlige versjoner av ChatGPT nettopp slike sperrer – man fikk ikke lov til å stille helserelaterte spørsmål. Nå, når OpenAI er blitt et fullt profittdrevet selskap, er slusene åpnet, og grensene viskes ut. Hvorfor skal Norge kjempe mot dette med egne midler, når regulering kunne skape trygghet og marked?

At Vestre ikke velger denne åpenbare løsningen, men heller setter i gang et nytt, ressurskrevende prosjekt, lukter mer av valgkampstrategi enn av helsefaglig fornuft.

Konklusjon: Fra visjon til virkelighet?

Spørsmålet er ikke om KI kan være nyttig i helsetjenesten – det kan den, og det vet vi allerede. Spørsmålet er om staten har muskler, kultur og kompetanse til å bygge en løsning som faktisk blir brukt. Jeg tviler. Risikoen er stor for at vi står igjen med enda et prestisjeprosjekt som havarerer under sin egen tyngde.

Hvis vi virkelig vil ha en trygg og funksjonell digital helsetjeneste, må vi satse på både små og store prosjekter, og vi må bruke lovgivning der markedet løper foran oss. En nasjonal KI-helsebot kan kanskje bli et supplement – men faren er stor for at den ender opp som et nytt luftslott i norsk e-helsehistorie.

Når KI ikke lærer: Hvorfor fine-tuning av språkmodeller svikter i medisinen

“None of the models exhibited robust generalizability of the knowledge presented during fine-tuning.”

— Wu et al., NEJM AI, juli 2025

Kunstig intelligens lover mye – og språkmodeller som GPT-4o og Gemini representerer teknologiske milepæler. Men hva skjer når disse modellene møter kravet om oppdatert medisinsk kunnskap? En ny studie fra Stanford University undersøker nettopp dette – og konklusjonen er både nyansert og urovekkende.

Fine-tuning er ingen magisk oppdatering

Artikkelen fra NEJM AI setter søkelys på en utfordring som ofte overses i den kliniske KI-debatten: Når guidelines og legemiddelinformasjon endres, hvordan oppdaterer vi språkmodeller som har et innebygd “cutoff” for kunnskap?

Forskerne testet seks frontier-modeller – blant annet GPT-4o, Gemini 1.5 og LLaMA – og fine-tunet dem via kommersielle API-er med ny kunnskap fra FDA, MIMIC-IV og NEJM Journal Watch. Resultatene var tydelige:

• Modellene memoriserer treningsdata, men generaliserer dårlig til nye kliniske scenarier.
• GPT-4o mini gjorde det best – men klarte kun 51 % korrekt på nye legemidler og 33 % på pasientdata.
• Gemini- og LLaMA-modellene bommet totalt i flere tester, med 0 % treff i enkelte tilfeller.

Dette er ikke små detaljer. Det handler om modellens evne til å forstå og anvende ny kunnskap i kontekst – for eksempel å anbefale riktig blodtrykksmål i lys av nye retningslinjer. Og der svikter fine-tuning i dag.

Liten modell, bedre læring?

Et av de mest interessante funnene er at små modeller (som GPT-4o mini) lærer bedre via fine-tuning enn større søsken som GPT-4o. Dette utfordrer en vanlig antakelse om at “større er bedre” i KI-verdenen.

Forklaringen? Antagelig handler det om arkitektur, parameterjustering og kapasitet for endring. Jo større modellen er, desto vanskeligere er det å lære noe nytt uten å glemme det gamle – et kjent problem innen catastrophic forgetting.

Men dette reiser også et praktisk spørsmål: Bør klinisk rettet KI i større grad baseres på mindre, mer spesialiserte modeller? Hvis målet er lokal tilpasning og hyppig oppdatering, kan det være en fruktbar vei.

Fine-tuning svekker annen kunnskap

Det kanskje mest urovekkende funnet er at fine-tuning ikke bare har begrenset effekt – det kan også svekke modellens evne til å besvare mer generelle medisinske spørsmål. GPT-4o mini falt fra 71,4 % til 66,4 % i nøyaktighet på MedQA etter fine-tuning.

Altså: Ved å lære noe nytt, glemmer modellen noe annet. Dette gjør at commercial fine-tuning ikke bare er ineffektiv – den kan være direkte risikabel i klinisk kontekst.

Hva betyr dette for norsk helsetjeneste?

I Norge er det stadig større interesse for å bruke kommersielle språkmodeller i kliniske verktøy – særlig til oppsummering, journalføring og beslutningsstøtte. Men funnene i denne artikkelen bør dempe forventningene.

1. Fine-tuning fungerer ikke godt nok for oppdatert kunnskap.
2. Generaliseringssvikt kan gi falsk trygghet i klinisk bruk.
3. Transparens i modellens oppdateringsmekanismer er helt avgjørende.

Det er verdt å merke seg at Retrieval-Augmented Generation (RAG) fortsatt ser ut til å være den tryggeste metoden for kunnskapsoppdatering. Selv om den har sine svakheter – som hallucinasjon og kontekstsvikt – er RAG i det minste reversibel og kontrollerbar.

Hva bør vi gjøre?

• Regulatorer bør stille tydelige krav til hvordan oppdatering av KI skjer – og kreve dokumentasjon på at nye guidelines faktisk er inkorporert.
• Utviklere må teste sine modeller med mer enn bare memorisering – generaliseringsevne er klinisk kritisk.
• Klinikere bør være svært forsiktige med å stole på at fine-tunede modeller er oppdatert – og bør etterspørre transparens og evaluering.

Referanse:

Wu, E., Wu, K., & Zou, J. (2025). Limitations of Learning New and Updated Medical Knowledge with Commercial Fine-Tuning Large Language Models. NEJM AI, 2(8). https://doi.org/10.1056/AIcs2401155