Når KI blir en venn: hvorfor regulering av emosjonelle chatbot-tjenester haster

Jeg deltar for tiden i Teknologirådets ekspertgruppe om KI-baserte vennetjenester – digitale systemer som er designet for å fungere som samtalepartnere, støttespillere eller til og med “venner”.

Temaet er nylig omtalt i en kommentar i Dagens Næringsliv:

ChatGPT er blitt en grådig god venn.

Der pekes det på et blindpunkt i regjeringens foreløpige vurdering:

Den norske regjeringen vurderer for tiden 15-årsgrense på sosiale medier, men det gjelder ikke for KI-baserte vennetjenester. Andre myndigheter går hardere til verks. I California kreves pausepåminnelser og tydelige advarsler for mindreårige, mens Kina vil innføre nødmekanismer der mennesker tar over samtalen ved tegn til selvmordstanker, og en egen mindreårig-modus med tidsgrenser og varsler.

Når følelsesmessig tilknytning blir selve forretningsmodellen, må reguleringen holde tritt med utviklingen. Og når empatiske KI-chatboter inntar barn og unges følelsesliv, kan vi ikke overlate ansvaret til markedet alene. Alternativet er at vi – igjen – lar en hel generasjon bli forsøkskaniner i et globalt teknologieksperiment.

Dette sitatet treffer etter min mening kjernen i utfordringen.