Chatbot e minori: supporto emotivo o raccolta di dati personali?

Autori: Taamallah Hadjre

Abstract
La crescente diffusione di chatbot “empatici” e conversazionali tra bambini e adolescenti solleva interrogativi rilevanti non solo sul piano psicologico, ma soprattutto su quello giuridico e della tutela della privacy. Tali strumenti, spesso presentati come supporto emotivo o compagnia, operano attraverso la raccolta e l’elaborazione di conversazioni che contengono grandi quantità di dati personali. Tuttavia, l’architettura di tali sistemi, deliberatamente disegnata per massimizzare il coinvolgimento e il tempo di permanenza dell’utente, favorisce una contrazione della capacità critica del minore e la conseguente condivisione massiva di dati personali. Il contributo analizza lo scollamento tra la funzione pseudo-affettiva dello strumento e la sistematica raccolta e profilazione di dati personali, operazione che sfocia nel fenomeno della datafication dell’identità e nell’elaborazione di inferenze emotive assimilabili a categorie particolari di dati ex art. 9 GDPR. Sotto il profilo normativo e giurisprudenziale, l’indagine si snoda attraverso la portata storica della sentenza del Tribunale di Los Angeles (causa JCCP 5255) – che ha riconosciuto il nesso causale tra scelte algoritmiche e danni alla salute mentale dei minori – per poi vagliare i limiti del consenso informato in Italia (fissato a 14 anni) e i nuovi obblighi tecnologici di age verification imposti dalla Delibera AGCOM n. 96/25/CONS. Tramite il caso studio di piattaforme fortemente sbilanciate sul piano del coinvolgimento affettivo vengono evidenziate le falle strutturali dei presidi di sicurezza, l’opacità delle informative privacy e i rischi derivanti dalla normalizzazione di dinamiche relazionali tossiche o misogine. L’intervento si propone di offrire una cornice regolatoria essenziale per i professionisti della salute mentale e della formazione, concludendo con la necessità di un approccio sistemico e multidisciplinare: da un lato, l’adozione vincolante di paradigmi di ethics by design e filtri preventivi da parte dei provider tecnologici; dall’altro, un investimento culturale basato su programmi diffusi di alfabetizzazione civica digitale rivolti a scuole e famiglie.