Il 2025 e il 2026 sono stati, per gli AI companion, un lungo elenco di guai: multe milionarie, divieti per i minori, cause legali, nuove leggi. Per chi usa (o vuole usare) un companion, la buona notizia è che tutto questo ha prodotto una cosa utile: una lista molto concreta di cosa controllare prima di affidare a un'app le proprie conversazioni più personali.
Questo articolo trasforma quegli scandali in una checklist pratica. Otto controlli, in ordine di importanza, che puoi fare in un quarto d'ora — e che escludono da soli la maggior parte dei servizi problematici.
Un anno di multe e divieti: perché la sicurezza conta
Non è allarmismo: è cronaca. Basta mettere in fila i fatti principali:
- Replika è stata bloccata dal Garante privacy italiano nel 2023 e sanzionata con 5 milioni di euro nel 2025, per verifica dell'età assente e trattamento di dati emotivi senza tutele adeguate.
- Character.AI è stata sanzionata dal Garante nel 2026 (158.000 euro, con prescrizioni sull'età) e ha vietato le chat aperte agli under 18 da fine novembre 2025, dopo cause legali legate a casi gravi con minori.
- Sul fronte normativo, la legge italiana 132/2025 e regole estere come la californiana SB 243 hanno introdotto obblighi di trasparenza e tutela dei minori, mentre dal 2 agosto 2026 l'AI Act impone ai chatbot di dichiarare di essere un'AI.
Il filo conduttore è sempre lo stesso: prodotti costruiti fuori dall'Europa, portati qui senza adattare l'impianto di tutele, con la protezione degli utenti affidata a una casella da spuntare. La sicurezza, quindi, non è un dettaglio da smanettoni: è ciò che distingue un servizio serio da uno che prima o poi finisce in un provvedimento.
Cosa vuol dire "companion sicuro"
"Sicuro" non è una parola sola: sono tre cose insieme.
- Sicuro per i tuoi dati. Dove sono conservati, chi può leggerli, se addestrano modelli, se puoi cancellarli davvero.
- Sicuro per il tuo equilibrio. Se il design rispetta il tuo benessere o sfrutta l'attaccamento per trattenerti.
- Sicuro per chi è vulnerabile. Se ci sono verifiche dell'età reali e salvaguardie nei momenti di crisi.
Un companion può eccellere su un asse e fallire su un altro. La checklist qui sotto li copre tutti e tre.
Come scegliere un companion sicuro: gli 8 controlli
Falli in quest'ordine: i primi escludono già molti servizi, e ti risparmiano gli altri.
- Dove sono i server. Cerca nella privacy policy i trasferimenti extra-UE. Dati in Europa significa GDPR vincolante e diritti concreti; dati negli USA, tutele diverse. Se non è chiaro, è già una risposta.
- Chi è il titolare. Deve esserci una società identificabile, con sede e partita IVA. Se è extra-UE, deve indicare un rappresentante nell'Unione — è proprio ciò che mancava a Character.AI.
- L'addestramento sui tuoi dati. Le conversazioni alimentano i modelli? Deve essere chiaro, e devi poter dire di no. Un "no training" scritto nero su bianco è il riferimento.
- La verifica dell'età. Una checkbox "ho 18 anni" non è una verifica. Guarda se esiste un meccanismo reale e cosa succede agli account dei minori.
- La trasparenza sull'AI. Il companion dichiara di essere un'AI, o coltiva l'ambiguità di "provare" sentimenti? Dal 2026 dichiararlo è anche un obbligo di legge.
- L'assenza di leve manipolative. Prova ad andartene: se ti fa sentire in colpa, ti bombarda di notifiche emotive o interrompe l'intimità per venderti un upgrade, è progettato contro di te.
- Le salvaguardie nei momenti critici. Un companion serio, davanti a segnali di disagio acuto, esce dal personaggio e rimanda a un aiuto reale. Verifica che lo faccia.
- La cancellazione effettiva. Cerca l'opzione per esportare ed eliminare i dati. Se non la trovi in cinque minuti nelle impostazioni, è un segnale negativo.
Otto controlli, un quarto d'ora. Valgono per qualsiasi app conversazionale, non solo per i companion affettivi.
Dove si colloca Insieme.AI
Full disclosure: Insieme.AI è il nostro prodotto. Mettiamo la nostra posizione per trasparenza — applica anche a noi gli otto controlli qui sopra.
Rispetto alla checklist: Insieme.AI è costruito da InLoop Srl (Potenza), con dati su server nell'Unione europea e nessun addestramento sulle conversazioni degli utenti; i companion dichiarano sempre di essere un'AI, non usano leve emotive per trattenerti, e davanti a segnali di crisi rimandano a risorse professionali italiane. Le interazioni intime vivono in una modalità Roleplay 18+ opt-in, mai attiva per default, e i dati sono cancellabili dalla dashboard. Il piano gratuito non chiede la carta. I dettagli tecnici sono in Sicurezza e I tuoi dati. Non è un vanto: è il minimo per operare in Europa nel 2026.
FAQ
Qual è la cosa più importante da controllare in un AI companion?
Dove vengono conservati i dati. Server nell'Unione europea significano GDPR vincolante e diritti reali (accesso, cancellazione, opposizione); dati fuori dall'UE significano tutele diverse. È il primo filtro perché da solo esclude molti servizi, ed è anche il fronte su cui sono arrivate le sanzioni più pesanti. Se la privacy policy non lo dice con chiarezza, consideralo un segnale negativo.
Un companion AI con piano gratuito può essere sicuro?
Sì: gratuito non vuol dire insicuro, e a pagamento non vuol dire protetto. La sicurezza dipende dai controlli della checklist — server, titolare, addestramento, età, trasparenza, assenza di manipolazioni, salvaguardie, cancellazione — non dal prezzo. Un buon piano gratuito, anzi, ti permette di provare il servizio e verificarne le tutele prima di pagare.
Come capisco se un companion è pensato anche per i minori?
Guarda la verifica dell'età: una vera verifica, non una casella da spuntare, e profili dei minori privati per default. Le piattaforme orientate al roleplay affettivo sono in genere per adulti, e diverse hanno vietato l'accesso agli under 18 proprio dopo i provvedimenti del 2025-2026. Un servizio che ti fa entrare su contenuti intimi senza alcun filtro è un segnale d'allarme.
Perché tante app di AI companion sono state multate o bloccate?
Perché costruite fuori dall'Europa e portate qui senza adattare le tutele: informative carenti, verifica dell'età inadeguata, uso dei dati emotivi senza basi solide. Il Garante italiano è intervenuto su Replika (blocco 2023, multa da 5 milioni) e su Character.AI (sanzione 2026), e nuove leggi hanno alzato l'asticella. È proprio questa storia a rendere utile una checklist di controlli prima di scegliere.
Per approfondire
- I migliori AI companion in italiano nel 2026
- Character.AI multata dal Garante: cosa cambia in Italia
- Le app AI che ti fanno sentire in colpa: i dark pattern emotivi
- Le tue conversazioni con l'AI sono davvero private?
Fonti
- Garante — Sanzione da 5 milioni di euro a Luka Inc. (Replika), aprile 2025 (docweb 10130115)
- Garante per la protezione dei dati personali — Ordinanza ingiunzione del 3 luglio 2026 nei confronti di Character Technologies Inc. (docweb 10269571)
- Regolamento (UE) 2024/1689 — AI Act, testo ufficiale su EUR-Lex
Questo articolo ha scopo informativo e non costituisce consulenza legale. Le condizioni dei servizi citati cambiano nel tempo: verifica sempre la privacy policy aggiornata.