BERT di Google

BERT (Bidirectional Encoder Representations from Transformers) è il modello linguistico presentato da Google nel 2018 e applicato alla ricerca dall’ottobre 2019, prima sull’inglese e in poche settimane su decine di lingue.

La novità stava nel nome: bidirezionale. I sistemi precedenti leggevano una frase in una direzione, BERT valuta ogni parola insieme a tutto ciò che la precede e la segue. È così che una preposizione smette di essere rumore e diventa parte del significato – “volo per Milano” e “volo da Milano” chiedono due cose opposte con le stesse parole.

Oggi BERT conta più come spartiacque che come sistema a sé. È il primo momento in cui Google smette di trattare la query come un insieme di termini e comincia a trattarla come una frase, e l’architettura che lo regge – i Transformer – è la stessa su cui sono costruiti i modelli che generano le risposte (LLM, embedding).

La conseguenza per chi scrive è rimasta quella di allora, e oggi vale il doppio: la ripetizione della parola chiave non aggiunge pertinenza, mentre la aggiunge una frase che dice esattamente ciò che intende, perché è l’unità che i sistemi valutano – prima nella pagina di risultati, adesso anche quando ne estraggono un passaggio da citare (chunk).