Når kunstig intelligens møter psykisk helse: Et tveegget sverd

Debatten om kunstig intelligens (KI) kretser ofte rundt produktivitet, innovasjon og muligheter. Men i skyggen av disse visjonene ser vi stadig tydeligere hvordan KI også kan medføre betydelig psykisk og fysisk skade. Det gjelder ikke minst i møte med de mest sårbare områdene av menneskelig erfaring – som psykisk helse.

KI-baserte samtaleagenter kan allerede i dag fremstå empatisk, engasjerende og overbevisende. Når slike systemer samtidig er trent på å maksimere «engagement», uten en tilsvarende prioritering av sikkerhet, skapes et farlig spenningsfelt: teknologien kan fange mennesker i en relasjonell illusjon uten at den har menneskelig dømmekraft eller etisk ansvar. Jo mer hukommelse og kontekst systemene får, desto sterkere blir opplevelsen av kontinuitet og tilstedeværelse – som igjen øker risikoen for at brukere utvikler avhengighet eller misforstått tillit.

Innen psykisk helse er dette særlig alvorlig. Her snakker vi om individer som ofte befinner seg i en sårbar situasjon, med behov for støtte, omsorg og profesjonell vurdering. Bruken av KI uten betydelig menneskelig overvåking er derfor ikke trygg. Den kan skape falske forhåpninger, forsterke isolasjon, og i verste fall lede til direkte skadelig påvirkning – enten ved utilsiktede råd, eller ved at systemet forsterker selvdestruktive mønstre.

Dette er grunnen til at Europas strengere regulering av KI – med AI Act som et nytt rammeverk – er avgjørende. Regulering kan aldri eliminere risiko, men den kan legge føringer som gjør at teknologi som berører helse, relasjoner og menneskelig sårbarhet ikke overlates til kommersielle insentiver alene.

For en aktuell diskusjon om disse problemstillingene, anbefaler jeg episoden Your Undivided Attention hvor vertene forklarer hvordan en 16 år gammel gutt først brukte ChatGPT 4o til leksehjelp og siden til å begå selvmord.

Det sentrale spørsmålet blir dermed: Hvem skal ha ansvaret for å beskytte mennesker når KI beveger seg inn i livets mest intime og sårbare rom? Svaret kan ikke være teknologiselskapenes egen samvittighet da denne trumfes av kapitalisme.