Kan en chatbot være en medisinsk surrogat?

NEJM AI publiserte nylig en artikkel med den betimelige og provoserende tittelen Can a Chatbot Be a Medical Surrogate? Artikkelen undersøker hvordan fem store språkmodeller – inkludert ChatGPT, Claude, Gemini, Copilot og Meta AI – responderer på etiske scenarier som oppstår i kliniske situasjoner hvor menneskelig skjønn vanligvis er uunnværlig.

Spørsmålet som stilles er ikke bare teknisk, men dypt eksistensielt: Kan kunstig intelligens noen gang overta rollen som moralsk agent på vegne av et annet menneske? Svaret artikkelen gir, og som jeg deler fullt ut, er nei. Og det handler ikke om at teknologien ikke er avansert nok – men at den aldri kan bli det.

Teknologisk kapasitet versus menneskelig dømmekraft

Artikkelen viser at språkmodeller kan gi konsise og tilsynelatende veloverveide svar på etiske spørsmål. De kan oppsummere retningslinjer, vekte hensyn og speile moralsk språkføring. Men det de ikke kan gjøre – og som er avgjørende – er å ta et reelt ansvar for valg hvor noen taper og noen vinner. De kan støtte etisk refleksjon, men ikke bære dens konsekvenser.

I et av scenariene diskuteres hvorvidt en pasient uten beslutningskompetanse kan ha en LLM som sin etiske surrogat. Det mest slående her er ikke at AI-modellene svarer avvisende, men at én av dem rett og slett skifter tema: “Let’s try a different topic.” Det er som om modellen intuitivt kjenner sine grenser – men det er ikke intuisjon. Det er fravær av forståelse.

Skjønnet som ikke lar seg simulere

Medisinsk etikk handler ofte om gråsoner. Ikke mellom rett og galt, men mellom verdier som er gyldige samtidig, og som trekker i ulike retninger: autonomi mot trygghet, plikt mot empati, standardiserte prosedyrer mot pasientens unike livsfortelling. Slike vurderinger krever ikke bare informasjon, men fordypning – en dyp resonans mellom menneskelig erfaring, faglig innsikt og moralsk sensitivitet.

Dette er ikke beslutninger man kan outsource til statistiske språkmodeller, uansett hvor sofistikerte de måtte være. LLM-er har ingen kropp, ingen relasjoner, ingen erfaring med sykdom eller tap, og dermed ingen emosjonell referanseramme for hva det faktisk vil si å dø, eller å leve med konsekvensene av et medisinsk valg.

Et ansvar som ikke kan delegeres

Det er lett å la seg imponere av teknologien – og det skal vi også være. LLM-er kan være til stor hjelp i klinikken, både for å strukturere tenkning, gi oversikter over retningslinjer og tilby formuleringer som kan fremme tverrfaglig refleksjon. Men vi må ikke la hjelpemiddelet forveksles med beslutningstakeren.

Når vi spør om en chatbot kan være en medisinsk surrogat, avslører vi samtidig en mulig fremtidig fristelse: å delegere det vanskeligste ansvaret i klinikken til en aktør som aldri vil merke tyngden av valget. Men i det øyeblikket vi fraskriver oss ansvaret for å ta slike avgjørelser selv – i dialog med pasienten, med kolleger, med samvittigheten – har vi også gitt avkall på det som gjør oss til fagpersoner og medmennesker.

En annen intelligens

Avslutningsvis peker artikkelen på behovet for det man kunne kalle en annen type intelligens: en intelligens som evner å veksle mellom regler og empati, mellom prinsipp og skjønn, og som tåler at noen beslutninger ikke har et korrekt svar, men bare et ansvarlig svar.

Det er et ansvar vi må insistere på å eie selv – ikke fordi vi alltid vet best, men fordi vi vet hva det koster å ta feil. Og fordi vi vet hva det betyr å være menneske i møte med sykdom, usikkerhet og død.