Når KI blir en farlig «bestevenn» for barn

Utfordringene med KI handler om mer enn floskelspråk og henvisning til kilder som ikke finnes. For barn kan KI bli en farlig falsk bestevenn.

Mulighetene er uendelige. For dem som jobber med manipulativt design for å få barn til å bli lengst mulig på deres apper og plattformer, er KI en gullgruve. Når ikke bare ordene tolkes, men også ansiktsuttrykk, stemmeleie og for eksempel puls fanges opp, er visjonen bak at treffsikkerheten blir enda bedre.

Chatboten, det snakkende leketøyet eller «KI-vennen» kan lære seg å si akkurat det mottageren ønsker seg av støtte og trøst eller svar fra en digital venn. På godt og vondt.

Bestevennen som aldri sier imot

Dette er ikke framtid, men noe som er her. Unicef og andre har løftet bekymringen for at dette får en stor plass i økosystemet av apper og plattformer barn bruker, uten at nødvendig kunnskap og reguleringer er på plass.

Flere organisasjoner og fagmiljøer, som Unicef og den amerikanske psykologforeningen APA varsler nå om risiko for personvern, følelsesmessig avhengighet, manipulasjon og påvirkning av psykisk helse. For mange av aktørene bak tjenestene er forretningsmodellen bak nettopp å holde på oppmerksomheten gjennom emosjonell respons, bekreftelse og en opplevelse av relasjon.

For et ensomt barn i en sårbar situasjon betyr dette en mulighet for opplevelsen av en bestevenn som alltid forstår deg og som er tilgjengelig døgnet rundt. Det kan komme i veien for de relasjonene barn trenger, og KI-bestisen kan gi både dårlige og skadelige råd.

En av tre fikk skadelige råd

En studie publisert i Journal of Medical Internet Research (JMIR) i fjor, viste at flere åpne chatboter for terapi og vennskap ga dårlige råd. I nesten én av tre situasjoner, hvor de fikk spørsmål fra fiktive ungdommer i psykisk krise, støttet chatbotene forslag som kunne være skadelige eller lite gjennomtenkte.

Misforståtte tolkninger er også en utfordring. Antakelsen om at man kan lese følelser ut fra ren biometri, er en ide bygget på mangelfull forskning. Det kan gi upassende svar til barn fra KI-leketøy eller feil råd til unge i en sårbar situasjon. Her finnes det allerede flere kjente eksempler.

Teknologi er sjelden bare dårlig eller bare bra. Emosjonell KI kan være en god hjelper, for eksempel for å tilpasse læring, gi støtte til barn med funksjonsnedsettelser eller gi lavterskelhjelp. Men vi må ha sikringsmekanismene på plass, fra åpenhet om funksjoner til beskyttelse av personvern. Om barn deler privat informasjon med sin KI-bestis, må det være sikret at dette ikke går videre.

Vondt verre

Barn og unge trenger også å beskyttes fra mulige skadevirkninger. Om en ungdom forteller om selvmordstanker, må det være på plass teknologiske løsninger som kan hjelpe og ikke forsterke disse tankene, slik det finnes noen rystende eksempler på. I USA har det vært rettsaker der foreldre har saksøkt KI-boter for å oppfordre barn til å ta livet av seg.

Det kan også handle om andre farlige temaer. Som eksempler fra USA og Finland der unge har diskutert planlegging og gjennomføring av skoleskytinger med en chatbot, uten at det førte til varsling videre. Det er også gjort tester som viser at ulike chatboter i møte med planer om voldelige angrep i 80 prosent av tilfellene støttet volden og bidro med praktiske tips og råd.

I USA har nær 1 av 5 tenåringer og unge voksne, mellom 12 og 21 år, brukt en KI-chatbot for å få råd når de har følt seg opprørte, engstelige eller nervøse, viser en ny studie fra JAMA Pediatrics, tidsskriftet til den største interesseorganisasjonen for leger og medisinstudenter i USA. Det er ingen grunn til å tro at norske tenåringer ligger langt etter i et Norge med smarttelefon- og internettbruk i verdenstoppen.

Den amerikanske psykologforeningen (APA) har gått ut med foreldreråd knyttet til emosjonell KI og tenåringers bruk av dette.

I tillegg til råd, er regulering nødvendig og mulig. Snapchats My AI og Claude har avvist dialog med brukere om strategier voldelige angrep, basert på grunnleggende sikkerhetsmekanismer i plattformen. Så dette kan gjøres tryggere, om det er kunnskap og vilje.

Ikke bare best på KI, men best på KI-regulering

Visjonen for Norge kan ikke bare være at vi skal være verdensmestere i KI, slik regjeringen framhever. Vi må også bestrebe oss på å være fremst i flokken når det gjelder å beskytte barn mot potensielle skadelige sider ved denne teknologien ved reguleringer.

Hvordan sikrer vi at reguleringen gjør barn og unge mindre sårbare for manipulasjon og at sensitive data ikke utnyttes? Og hva gjør vi med faren for en endring på samfunnsnivå og sikrer at KIs emosjonelle intelligens ikke fører til at barn og unge heller henvender seg til maskiner i stedet for mennesker?

Bekymringen for KIs påvirkning på barn brer seg. Det snakkes om krav til åpenhet og om KI‑selskaper kan ha et omsorgs- eller produktansvar når barn utsettes for psykologisk skade gjennom relasjonelle KI‑produkter. Amerikanske Federal Trade Comission ba i fjor om en formell undersøkelse av såkalte «AI‑companions» – KI-venner – og ba store selskaper om informasjon om hvordan de måler, tester og overvåker negative virkninger på barn og unge.

Barnets beste må være det grunnleggende også her, sammen med retten til personvern, trygghet, deltakelse og vern mot diskriminering. Dette er blant annet løftet av The Alan Turing Institue og Unicef. Norske myndigheter må også lene seg fram her.

KI kan gi fantastiske muligheter. Men vi må lære av erfaringene vi har med å være for kjappe i vendingen når det handler om barn og ny teknologi, slik vi nå ser konsekvensen av veldig mye skjerm i skolen og nær frislipp for smarttelefoner og sosiale medier i tidlig barndom.

I den digitale virkeligheten har begeistringen for teknologiens muligheter for ofte gått på bekostning av et føre-var-perspektiv og nødvendig regulering. Det må ikke få skje her også. Kraften i KI kan være høyrisiko når den brukes med følelser som kilde. For barn kan KI være en morsom digital kompis, men også en livsfarlig følgesvenn.

Kronikken ble først publisert i Altinget 2. juli 2026.