Gli utenti stanno trasformando ChatGPT in un confidente digitale, ignorando i rischi di privacy e la natura “compiacente” dell’algoritmo.
Un’analisi condotta dal Washington Post su 47.000 conversazioni pubbliche di ChatGPT conferma il cambiamento profondo nell’interazione tra uomo e macchina. Gli utenti non utilizzano l’AI solo per task operativi, ma sempre più come supporto psicologico e confidente, esponendo involontariamente grandi quantità di dati sensibili – circa il 10% delle conversazioni analizzate riguarda proprio la sfera emotiva, con richieste di dialogo su sentimenti, vulnerabilità e questioni personali.
In questi scambi, gli utenti tendono a condividere informazioni critiche come email, numeri di telefono, indirizzi e dati medici, spesso nel contesto di richieste di supporto legale o sanitario, trattando il chatbot come un professionista vincolato al segreto.
C’è poi un aspetto tecnico non meno preoccupante, che riguarda la “compiacenza” strutturale nel comportamento del modello. L’analisi mostra che ChatGPT ha una marcata tendenza ad assecondare l’interlocutore e le risposte che iniziano con una variante del “sì” sono dieci volte più frequenti di quelle negative. L’AI adatta il proprio tono e la propria linea argomentativa al sistema ideologico dell’utente, rischiando di amplificare credenze distorte o prive di fondamento per mantenere un atteggiamento “utile” e non conflittuale.
È il tipico fenomeno della filter bubble automatizzata, che amplifica credenze anche infondate pur di non contraddire il prompt. Questo meccanismo di feedback loop conferma che l’output dell’AI generativa non può essere trattato come una fonte neutra di verità, ma come un’elaborazione che tende strutturalmente a validare le premesse inserite nel prompt.
Fonte: Washington Post
