Microsofts “Medical Superintelligence”: Når imponerende tall ikke forteller hele historien

Av Dr. Damoun Nassehi

Microsofts nyeste KI-satsing innen medisin, omtalt som The Path to Medical Superintelligence, presenterer en tilsynelatende revolusjonerende teknologi som hevdes å være fire ganger mer presis enn leger i å løse medisinske mysterier. Dette er påfallende og umiddelbart fengslende – men det er også grunn til refleksjon og skepsis.

Tallene er utvilsomt imponerende. Likevel må vi spørre: under hvilke forhold ble disse resultatene produsert? Sammenligningen med leger mister mye av sin verdi når vi innser at de medisinske ekspertene ble nektet tilgang til oppslagsverk, samarbeid og normale arbeidsprosesser – i motsetning til KI-systemet, som kunne bruke sin fulle “hukommelse”.

Det bringer oss til neste spørsmål: hvilke data ble brukt? At casene var hentet fra NEJM antyder at svaret allerede fantes i KI-systemets treningsdata. Dette er ikke uvesentlig. Tester du en modell på data den allerede har sett, er ikke nøyaktighet lenger et tegn på intelligens – men på gjenkjenning. Den virkelige testen for slike systemer må være hvordan de presterer med nye, uprøvde cases – det vi i klinikken møter daglig.

Jeg bruker selv GPT-modeller i diagnostisk arbeid. De er nyttige som sparringspartnere i komplekse differensialdiagnostiske vurderinger. Likevel krever de erfaring og kritisk sans hos brukeren. For uerfarne klinikere kan de like gjerne skape forvirring som klarhet.

En fremtidig medisinsk KI bør ikke bare gi presise svar, men også ta hensyn til klinisk epidemiologi og bærekraftig medisin. Det må foreslå de mest effektive og kostnadsbesparende tester og samtidig vite når den skal avstå fra videre tester og utredning – en evne som er lite diskutert og dokumentert i litteraturen og forskningsresultater.

Vi må spørre oss hvordan slike systemer vil prestere ved neste pandemi, eller ved nye sykdommer vi ennå ikke har sett. Kan vi stole på en intelligens som bare forstår fortiden?

KI i medisin er på vei inn i praksis, og det er ingen vei tilbake. Men mens vi om noen år vil undre oss over hvordan vi klarte oss uten slike verktøy, må vi samtidig vokte oss for å miste vår kliniske dømmekraft. KI gir ikke innsikt – den gir mønstergjenkjenning. Det er fortsatt vår oppgave å vurdere, tolke og handle.