Google: stop alle fake news e all’odio con nuovi algoritmi

Ecco come Google vuole combattere le fake news e i contenuti offensivi: attraverso nuovi algoritmi per proteggere gli utenti

Combattere le fake news, l’odio online, migliorare l’esperienza dell’utente.Google ha messo in campo tutta la sua potenza per fermare i fenomeni dilaganti sul web e rendere Internet un posto migliore e fermare i contenuti online offensivi, violenti o fuorvianti.

Stop alle Fake News grazie alla ricerca

Ben Gomes, vice presidente dell’Engineering di Google, ha raccontato alcune delle novità più rilevanti tra quelle messe in atto di recente dal gigante tecnologico in materia di ricerca web. Vi riportiamo i passi essenziali tratti dal suo blog post, all’interno del quale illustra le azioni intraprese da Google nella lotta alle fake news e al fine di posizionare correttamente i siti nelle ricerche.

Ecco cosa dice Ben Gomes su Fake news e contenuti offensivi

“La ricerca web può sempre migliorare. Lo sapevamo già da quando ho iniziato a lavorare a Search nel 1999, ed vale ancora oggi. All’epoca, Internet si stava espandendo ad una velocità incredibile. Dovevamo dare un senso all’esplosione di informazioni, organizzandole e presentandole in modo che la gente potesse trovare quello che cercava già sulla pagina dei risultati di Google.

Da PageRank alle fake news

All’epoca il lavoro ruotava attorno a PageRank, l’algoritmo grazie al quale veniva misurata l’importanza delle pagine web, affinché venissero indicizzate nei risultati di ricerca. Oltre a cercare di organizzare le informazioni, i nostri algoritmi hanno sempre dovuto affrontare individui o sistemi che cercano di “ingannare” i nostri sistemi, al fine di apparire in alto nei risultati della ricerca, ma utilizzando basi di contenuti di bassa qualità, testi nascosti e altre pratiche ingannevoli. Abbiamo affrontato questi problemi – così come altri – nel corso degli anni, aggiornando regolarmente i nostri algoritmi e introducendo funzioni che impediscano i vari inganni.

Proteggere l’utente da Fake News e contenuti offensivi

“Oggi – afferma ben Gomes – in un mondo dove nascono decine di migliaia di pagine web al minuto, ci sono modi sempre nuovi attraverso i quali la gente prova ad ingannare i sistemi. Il fenomeno più rilevante è quello delle Fake News, le notizie false, il cui contenuto ha contribuito a diffondere falsità, offese e informazioni manipolate. Sebbene questo problema sia ben diverso da quello che vi ho citato prima, il nostro obiettivo rimane lo stesso: consentire alle persone di accedere alle informazioni più rilevanti attraverso le fonti affidabili disponibili”.
“E sebbene non sempre lo si possa fare al meglio, stiamo comunque facendo dei buoni progressi nell’affrontare questo problema, ma per avere cambiamenti a lungo termine, cambiamenti impattanti, sono necessari svolte strutturali nella ricerca”

Alta qualità contro false notizie

“Nell’ottica degli interventi a lungo termine – continua Ben Gomes di Google – oggi stiamo portando avanti l’alta qualità nella ricerca web. Ciò include miglioramenti nella classifica dei risultati, modi più facili di fornire risposte dirette alle persone e anche una maggiore trasparenza nella ricerca web“.

Algoritmi per verificare le fonti affidabili

Secondo Bem Gomes “I nostri algoritmi ci permettono identificare le fonti affidabili tra le centinaia di miliardi di pagine presenti nel nostro indice. Tuttavia è evidente che una piccola parte del nostro traffico quotidiano (circa lo 0,25%) risulta essere fatto di contenuti offensivi o fuorvianti, che non corrisponde a ciò che la gente cerca. Per evitare la diffusione di questi contenuti abbiamo migliorato i nostri metodi di valutazione e abbiamo fatto degli aggiornamenti algoritmici per dare priorità ai contenuti più autorevoli.
Le linee guida del New Search Quality Rater prevedono un processo di sperimentazione. Come parte di questo processo, verranno impiegate valutazioni da parte di persone reali che stimeranno la qualità dei risultati di ricerca di Google dando un feedback sui nostri test. Queste valutazioni verranno quindi utilizzate per aiutarci a raccogliere dati sulla qualità dei nostri risultati e per individuare le aree in cui dobbiamo migliorare”. Insomma delle persone reali andranno a leggere e a cercare di capire il significato delle fake news, migliorando i risultati e cancellando quello che è ingannevole.

Search Quality Rater

“Il mese scorso – ricorda Ben Gomes di Google –  abbiamo aggiornato le linee guida del nostro Search Quality Rater per fornire esempi di fake news e di pagine web di bassa qualità che potrebbero includere informazioni fuorvianti, risultati offensivi inaspettati, truffe, teorie e cospirazioni infondate. Queste linee guida inizieranno ad aiutare i nostri algoritmi a ridurre dai risultati di ricerca i contenuti di scarsa qualità. I cambiamenti nel ranking, invece, hanno fatto sì che venissero uniti centinaia di segnali per determinare quali fossero i risultati mostrati sulla base di una specifica query. I criteri di giudizio comprendono: la data della creazione del contenuto e il numero di volte in cui le query di ricerca vengono visualizzate in una determinata pagina”.

Autocomplete senza contenuti offensivi

Continua Gomes: “Quando si usa Google, proponiamo di accelerare l’esperienza degli utenti con funzionalità come l’Autocomplete, il completamento automatico, che aiuta a prevedere le ricerche che si stanno digitando così da ottenere rapidamente le informazioni necessarie, attraverso gli snippet in primo piano verranno mostrate le informazioni più rilevanti della ricerca. Il contenuto visualizzato per mezzo di queste funzionalità verrà generato algoritmicamente ed sarà il riflesso di ciò che la gente cerca sul web. Questo a volte potrà portare a risultati inaspettati, inaccurati o persino offensivi. A partire da oggi, però, abbiamo facilitato la possibilità di contrassegnare un contenuto visualizzato. Questi nuovi meccanismi di feedback includono categorie che sono state etichettate chiaramente in modo da poter informare direttamente nel caso in cui vi imbattiate in contenuti sensibili o inutili. E noi abbiamo intenzione di utilizzare questo feedback per migliorare i nostri algoritmi”.

Utenti scioccati dalla ricerca su Google

“Negli ultimi mesi ci sono state poste domande difficili riguardo a previsioni scioccanti o offensive che appaiono in Autocomplete – ammette Ben Gomes – . In base a questo, abbiamo valutato dove migliorare i nostri criteri di contenuto e come aggiornarli in modo appropriato. Ora stiamo pubblicando questa nuova prassi al Centro Assistenza, in modo che tutti possano sapere di più su Autocomplete e sul nostro approccio alle rimozioni”.

Come funziona la ricerca su Google

“Per chi volesse approfondire, abbiamo recentemente aggiornato il nostro sito How Search Works per fornire ancora più informazioni agli utenti e ai proprietari di siti web riguardo alla tecnologia che sta dietro alla ricerca. Il sito include una descrizione di come i sistemi di ranking di Google ordinino centinaia di miliardi di pagine per offrire sia risultati che una panoramica del nostro processo di test utenti”.
“Ogni anno si contano trilioni di ricerche su Google e il 15% delle ricerche che vediamo ogni giorno sono nuove, il che significa che c’è sempre più lavoro da fare per offrire alle persone le migliori risposte alle loro domande, ottenibili da una grande varietà di fonti legittime. Sebbene i nostri risultati di ricerca web non saranno mai perfetti, ci siamo impegnati – come sempre – a preservare la fiducia e a garantire che i nostri prodotti continuino ad essere utili per tutti”.