Kan en chatbot være en medisinsk surrogat?

NEJM AI publiserte nylig en artikkel med den betimelige og provoserende tittelen Can a Chatbot Be a Medical Surrogate? Artikkelen undersøker hvordan fem store språkmodeller – inkludert ChatGPT, Claude, Gemini, Copilot og Meta AI – responderer på etiske scenarier som oppstår i kliniske situasjoner hvor menneskelig skjønn vanligvis er uunnværlig.

Spørsmålet som stilles er ikke bare teknisk, men dypt eksistensielt: Kan kunstig intelligens noen gang overta rollen som moralsk agent på vegne av et annet menneske? Svaret artikkelen gir, og som jeg deler fullt ut, er nei. Og det handler ikke om at teknologien ikke er avansert nok – men at den aldri kan bli det.

Teknologisk kapasitet versus menneskelig dømmekraft

Artikkelen viser at språkmodeller kan gi konsise og tilsynelatende veloverveide svar på etiske spørsmål. De kan oppsummere retningslinjer, vekte hensyn og speile moralsk språkføring. Men det de ikke kan gjøre – og som er avgjørende – er å ta et reelt ansvar for valg hvor noen taper og noen vinner. De kan støtte etisk refleksjon, men ikke bære dens konsekvenser.

I et av scenariene diskuteres hvorvidt en pasient uten beslutningskompetanse kan ha en LLM som sin etiske surrogat. Det mest slående her er ikke at AI-modellene svarer avvisende, men at én av dem rett og slett skifter tema: “Let’s try a different topic.” Det er som om modellen intuitivt kjenner sine grenser – men det er ikke intuisjon. Det er fravær av forståelse.

Skjønnet som ikke lar seg simulere

Medisinsk etikk handler ofte om gråsoner. Ikke mellom rett og galt, men mellom verdier som er gyldige samtidig, og som trekker i ulike retninger: autonomi mot trygghet, plikt mot empati, standardiserte prosedyrer mot pasientens unike livsfortelling. Slike vurderinger krever ikke bare informasjon, men fordypning – en dyp resonans mellom menneskelig erfaring, faglig innsikt og moralsk sensitivitet.

Dette er ikke beslutninger man kan outsource til statistiske språkmodeller, uansett hvor sofistikerte de måtte være. LLM-er har ingen kropp, ingen relasjoner, ingen erfaring med sykdom eller tap, og dermed ingen emosjonell referanseramme for hva det faktisk vil si å dø, eller å leve med konsekvensene av et medisinsk valg.

Et ansvar som ikke kan delegeres

Det er lett å la seg imponere av teknologien – og det skal vi også være. LLM-er kan være til stor hjelp i klinikken, både for å strukturere tenkning, gi oversikter over retningslinjer og tilby formuleringer som kan fremme tverrfaglig refleksjon. Men vi må ikke la hjelpemiddelet forveksles med beslutningstakeren.

Når vi spør om en chatbot kan være en medisinsk surrogat, avslører vi samtidig en mulig fremtidig fristelse: å delegere det vanskeligste ansvaret i klinikken til en aktør som aldri vil merke tyngden av valget. Men i det øyeblikket vi fraskriver oss ansvaret for å ta slike avgjørelser selv – i dialog med pasienten, med kolleger, med samvittigheten – har vi også gitt avkall på det som gjør oss til fagpersoner og medmennesker.

En annen intelligens

Avslutningsvis peker artikkelen på behovet for det man kunne kalle en annen type intelligens: en intelligens som evner å veksle mellom regler og empati, mellom prinsipp og skjønn, og som tåler at noen beslutninger ikke har et korrekt svar, men bare et ansvarlig svar.

Det er et ansvar vi må insistere på å eie selv – ikke fordi vi alltid vet best, men fordi vi vet hva det koster å ta feil. Og fordi vi vet hva det betyr å være menneske i møte med sykdom, usikkerhet og død.

Microsofts “Medical Superintelligence”: Når imponerende tall ikke forteller hele historien

Av Dr. Damoun Nassehi

Microsofts nyeste KI-satsing innen medisin, omtalt som The Path to Medical Superintelligence, presenterer en tilsynelatende revolusjonerende teknologi som hevdes å være fire ganger mer presis enn leger i å løse medisinske mysterier. Dette er påfallende og umiddelbart fengslende – men det er også grunn til refleksjon og skepsis.

Tallene er utvilsomt imponerende. Likevel må vi spørre: under hvilke forhold ble disse resultatene produsert? Sammenligningen med leger mister mye av sin verdi når vi innser at de medisinske ekspertene ble nektet tilgang til oppslagsverk, samarbeid og normale arbeidsprosesser – i motsetning til KI-systemet, som kunne bruke sin fulle “hukommelse”.

Det bringer oss til neste spørsmål: hvilke data ble brukt? At casene var hentet fra NEJM antyder at svaret allerede fantes i KI-systemets treningsdata. Dette er ikke uvesentlig. Tester du en modell på data den allerede har sett, er ikke nøyaktighet lenger et tegn på intelligens – men på gjenkjenning. Den virkelige testen for slike systemer må være hvordan de presterer med nye, uprøvde cases – det vi i klinikken møter daglig.

Jeg bruker selv GPT-modeller i diagnostisk arbeid. De er nyttige som sparringspartnere i komplekse differensialdiagnostiske vurderinger. Likevel krever de erfaring og kritisk sans hos brukeren. For uerfarne klinikere kan de like gjerne skape forvirring som klarhet.

En fremtidig medisinsk KI bør ikke bare gi presise svar, men også ta hensyn til klinisk epidemiologi og bærekraftig medisin. Det må foreslå de mest effektive og kostnadsbesparende tester og samtidig vite når den skal avstå fra videre tester og utredning – en evne som er lite diskutert og dokumentert i litteraturen og forskningsresultater.

Vi må spørre oss hvordan slike systemer vil prestere ved neste pandemi, eller ved nye sykdommer vi ennå ikke har sett. Kan vi stole på en intelligens som bare forstår fortiden?

KI i medisin er på vei inn i praksis, og det er ingen vei tilbake. Men mens vi om noen år vil undre oss over hvordan vi klarte oss uten slike verktøy, må vi samtidig vokte oss for å miste vår kliniske dømmekraft. KI gir ikke innsikt – den gir mønstergjenkjenning. Det er fortsatt vår oppgave å vurdere, tolke og handle.