La sicurezza dei modelli di intelligenza artificiale è più fragile di quanto stimato. Una ricerca congiunta sulla sicurezza dell’AI ha dimostrato che è possibile “avvelenare” (data poisoning) un Large Language Model introducendo appena 250 documenti malevoli nel dataset di addestramento. Questa quantità irrisoria, se confrontata ai terabyte di dati su cui vengono addestrati i modelli, è sufficiente per creare delle “backdoor” stabili che alterano le risposte dell’AI su argomenti specifici.
Il rischio per i brand è la manipolazione mirata della reputazione. Attori malintenzionati potrebbero seminare contenuti apparentemente innocui ma contenenti trigger nascosti, istruendo il modello a fornire informazioni false, omettere determinati prodotti dai confronti o associare un marchio a concetti negativi quando interrogato dagli utenti. Una volta che il modello ha ingerito e “imparato” dai dati avvelenati, la rimozione del bias è tecnicamente complessa e costosa.
Questa vulnerabilità apre una nuova frontiera per la Black Hat SEO e la gestione della reputazione online. La difesa richiede un monitoraggio proattivo non solo delle SERP, ma delle risposte fornite dai principali chatbot, e una strategia di produzione contenuti “difensiva” che inondi i dataset di informazioni corrette e verificate per diluire potenziali attacchi.
Fonte: Search Engine Journal
