Cancellazione di Recensioni false e di altri contenuti fraudolenti, ecco come agisce Google (alcuni numeri interessanti)

Dan Pritchett, Principal Software Engineer di Google Maps ha pubblicato un articolo sul blog ufficiale di Google, con i numeri relativi alle azioni che la company di Mountain View ha compiuto nel 2020 contro le recensioni fasulle e altri abusi. È una lettura molto interessante per capire come si muove l’azienda contro questa piaga.

Ecco una libera traduzione dell’articolo con dei grafici dove abbiamo confrontato gli stessi dati del 2019 e poi di seguito un nostro commento:

---

Quando cerchi attività commerciali, indicazioni stradali, informazioni o recensioni su un luogo intorno a te, ti ritroverai con molta probabilità su Google Maps.

Per far sì che queste informazioni e i risultati di ricerca siano sempre aggiornati, Google Maps dal 2010 accetta suggerimenti ed indicazioni dai suoi stessi utenti e nei circa 11 anni passati più di 970 Milioni di persone hanno contribuito su Google Maps, in vari modi.
Sia caricando recensioni e foto legati ad uno specifico business, che modificando informazioni cruciali come indirizzi e orari di apertura.

Queste interazioni permettono a Google Maps di rimanere aggiornato in tempo reale sui frequenti cambiamenti legati alla quotidianità di un business, ma permettono anche a tutti gli utenti di fare scelte più informate, quando cercano qualcosa nelle vicinanze.

Questo facilita un passaparola digitale, in quanto una recensione esaustiva con buon intento può facilitare la scelta di un nuovo ristorante o l’acquisto in un nuovo negozio. Purtroppo la facoltà di contribuire in modo diretto su Google Maps lascia spazio ad utenti con intenti meno buoni, che pubblicano contenuti e materiali inappropriati. Fortunatamente per la maggior parte rimossi già prima che siano visibili alla maggioranza.

Google Maps annualmente condivide con noi alcuni dettagli e provvedimenti presi per prevenire contenuti non idonei e far sì che lo strumento rimanga affidabile e sempre attendibile.

Come individua Google Maps gli “Utenti Cattivi”?

Google Maps generalmente tende a rimanere riservato sulle tecniche usate per individuare utenti cattivi o fasulli, proprio per non agevolare gli stessi su come superare e aggirare i controlli.

Il principale metodo per prevenire questa problematica è l’algoritmo di Google Maps, che tramite apprendimenti automatici (machine learning) studia il comportamento autentico di utenti reali sui sistemi.

Apprende ad esempio che un utente utilizza Google Maps solitamente quando si sta spostando e/o è in movimento, o sta cercando servizi/ristoranti nelle vicinanze o tende a lasciare recensioni con foto ed indicazioni specifiche nei posti effettivamente visitati.

Questi apprendimenti e queste osservazioni informano l’algoritmo di Google che analizza milioni di contributi al giorno. E riesce dunque a rilevare utilizzi insoliti e contenuti fraudolenti. Ricordo che solo nel 2019 sono stati inseriti 7 miliardi di contenuti in un solo anno.

Per fare un semplicissimo esempio, può individuare che un nuovo account Google Maps creato ad esempio in New Delhi, sta lasciando delle recensioni negative su una specifica attività in Cancun o 1 stella ad un ristorante a New York. In tal caso il contenuto viene automaticamente rimosso o segnalato per ulteriori indagini, anche in merito all’account stesso.

L’algoritmo viene accostato a numerosi operatori umani addestrati che analizzano il contenuto laddove non riesca l’algoritmo, ad esempio come viene utilizzato il dialetto o lo slang locale.

Ma chi sono questi utenti sospetti e come possono essere fermati?

Qui c’è da fare, in primis, una differenziazione imposta da Google Maps fra cosiddetti “truffatori di contenuti” (Fraudsters) e “vandali di contenuto” (vandals).

I “truffatori di contenuti” sono gli utenti che ricevono incentivi o vengono proprio pagati per ingannare le persone reali con recensioni fasulle o che che creano proprio interi profili fasulli con lo scopo di procacciare potenziali clienti.
Google Maps cerca di scoraggiarli, rimuovendo preventivamente l’opportunità di trarre profitto da contenuti falsi.

Alcuni esempi:

• Rilevamento di contenuti provenienti da click farm in cui vengono generate recensioni e valutazioni false. Questo rende più difficile la pubblicazione di contenuti falsi a basso costo, che alla fine rende più difficile vendere recensioni e guadagnare.
• Rafforzamento dei processi di verifica di Google My Business con nuovi modelli (anche tramite apprendimenti automatici) con lo scopo di rilevare i profili aziendali falsi prima che compaiano su Maps

Combattendo su larga scala la creazione di profili aziendali falsi, Google Maps ostacola milioni di tentativi da parte di truffatori che mirano a sottrarre clienti ad aziende legittime escludendoli dai risultati di ricerca.

I “vandali di contenuto” dall’altro verso sono principalmente motivati da inclinazioni e/o eventi sociali e politici a lasciare il loro segno, modificando informazioni importanti o aggiungendo recensioni e/o foto non congrue con il business e/o inappropriate.
Per ostacolare i “vandali di contenuto” Google Maps punta ad anticipare quando possibile un evento probabile e reagire tempestivamente al suo utilizzo, così da alzare e adattare le difese quando necessario.

Alcuni esempi:

• Blocco preventivo (con l’aiuto dell’algoritmo) di recensioni razziste in relazione ad atteggiamenti xenofobi anti-cinesi associati al COVID-19.
• Limitazione alle possibilità di modifica di numeri di telefono, indirizzi e altre informazioni per luoghi come i siti di voto, al fine di evitare la diffusione di informazioni errate relative alle elezioni americane.
• Limitazione di recensioni per determinati luoghi in cui si riscontra un tasso più elevato di contenuti che violano le norme (esempio le scuole negli Stati Uniti e in UK).

 

Come procede la lotta ai contenuti inadeguati su Google Maps?

Come abbiamo anticipato già sopra, con l’aiuto di persone e tecnologie che monitorano da vicino Maps 24 ore su 24, 7 giorni su 7, Google è in grado di intraprendere un’azione rapida contro i truffatori, che vanno dalla rimozione dei contenuti alla sospensione dell’account.

Ecco dei grafici

Fra il 2019 ed il 2020 – Recensioni bloccate o rimosse:

Fra il 2019 ed il 2020 – Foto e video rimosse per bassa qualità:

Fra il 2019 ed il 2020 – Business Profiles fasulli (ovvero schede Google My Business) cancellati:

 

 

Nel 2020 sono stati bloccati 3 milioni di tentativi non autorizzati di verifica scheda:

 

---

Un nostro commento

Già da un anno è evidente l’impegno di Google contro gli abusi del sistema e le recensioni che violano le sue linee-guida. Ci sta investendo molte risorse.

Ed è evidente anche che le segnalazioni di profili o contenuti non aderenti le linee guida, viene presa in considerazione.

D’altra parte le recensioni impattano in maniera forte sulla Local SEO.

Con non pochi effetti collaterali d’altra parte.

Ad esempio i falsi positivi: ogni tanto l’algoritmo di Machine Learning cancella recensioni e foto del tutto legittime.

Tant’è che ha creato una pagina apposita, poiché molti utenti si lamentano della mancata pubblicazione delle recensioni reali: https://support.google.com/business/answer/10313341 

Poi ci sono comunque recensioni di cui non si comprende la provenienza e di cui molti proprietari si lamentano.
Soprattutto quelle ermetiche, senza testo con la sola valutazione, su cui raramente Google interviene.

È sicuramente un argomento molto complesso su cui dibattere, e forse Google potrebbe fare di più.

Ma di certo bisogna continuare a richiedere recensioni ai clienti, monitorarle ed agire di conseguenza.

Cosa ne pensi di questa situazione e degli sviluppi presentati da Google?

 

Aggiornamento 05/04/2022

Google ha pubblicato in questo suo recente post del blog ufficiale l’intenzione di voler condividere di più tutte le azioni di contrasto messe in campo per intercettare informazioni irrilevanti e offensive che minerebbero la qualità di Google Maps.

Google Maps vuole essere un luogo sicuro in cui l’utente può trovare informazioni utili ed affidabili.

Google Maps è anche un sistema che viene aggiornato continuamente dalle informazioni riportate dagli utenti.

Rispetto al 2020, il contributo degli utenti di aggiornare informazioni presenti su Google Maps come, orari, indirizzi, foto e recensioni è aumentato del 30%.

Si tratta di contributi che hanno aiutato Google a mantenere aggiornate le informazioni sulle attività commerciali.

Purtroppo però esiste un considerevole numero di contributi da parte degli utenti su Google Maps che vengono pubblicati continuamente in maniera fraudolenta.

Per questo motivo, Google ha bloccato nel 2021  più di 100 milioni di queste modifiche collegate ad attività ritenute sospette e non autentiche.

Google oggi si serve di tecnologie di apprendimento automatico come, il machine learning, e di team specializzati mirati a rilevare con ancora più efficacia tali attività sospette.

Ecco nel dettaglio quali informazioni ha contrastato Google:

• identificato e rimosso più di 7 milioni di falsi profili aziendali – più di 630.000 dei quali ci sono stati segnalati direttamente dagli utenti come mostrato nelle seguenti figure:

 

 

• fermato più di 12 milioni di tentativi di creare falsi profili aziendali di Google

 

 

• 8 milioni di tentativi di rivendicare profili aziendali di Google non appartenenti a questi malintenzionati

 

 

• disattivato più di 1 milione di account di utenti a causa di attività che violano le policy, come il vandalismo online o la frode

 

 

Il “Review Bombing”

È il nome del fenomeno che Google utilizza per evidenziare l’aumento di recensioni false e contenuti violenti pubblicate su Google Maps a discapito delle imprese locali.

Il 2021 ne è stato particolarmente protagonista ma l’intervento di Google per contrastarlo è stato notevole.

Ecco le azioni effettuate:

• bloccate o rimosse più di 95 milioni di recensioni che violano le policy, oltre 60.000 delle quali sono state eliminate a causa di casi legati al COVID19;

 

• eliminate più di 1 milione di recensioni che sono state segnalate direttamente dagli utenti;

 

• bloccato o rimosso più di 190 milioni di foto

• 5 milioni di video che erano sfocati, di bassa qualità o che violavano le politiche di Google sui contenuti.

Aggiornamento 06/04/2023

Anche nel 2022 Google ha fatto molti passi in avanti nella lotta ai contenuti fraudolenti su Google Maps intervenendo in molti casi prima ancora che venissero pubblicati.

Questo è stato possibile grazie a strumenti molto sofisticati di machine learning e intelligenza artificiale con i quali è stato ed è possibile scoprire i tentativi di truffa prima ancora che vengano pubblicati sulle schede delle attività locali.

Ad esempio, Google è riuscito a bloccare tempestivamente delle foto prima che venissero pubblicate online che contenevano un numero di telefono truffaldino rispetto a quello reale di un’attività.

Ciò è stato possibile grazie a una combinazione di tecnologie grazie alle quali si è riuscito a leggere il contenuto numerico della foto e confrontarlo con quello reale dell’attività.

Ecco un pò di numeri relativi a tutti i contenuti falsi rimossi da Google nel 2022 pubblicati su questo post del blog ufficiale:

• bloccati o rimossi oltre 115 milioni di recensioni che violano le norme, la maggior parte delle quali catturate prima ancora di essere pubblicate. Grazie alle tecnologie sempre più avanzate sono state eliminate oltre il 20% in più di recensioni false rispetto al 2021.

• bloccati o rimossi oltre 200 milioni di foto e 7 milioni di video sfocati, di bassa qualità o che violavano le norme di Google sui contenuti.

• bloccati 20 milioni di tentativi di creare falsi profili aziendali, ovvero 8 milioni in più rispetto al 2021. Google ha anche messo in atto protezioni per oltre 185.000 aziende dopo aver rilevato attività sospette e tentativi di abuso.