Google, ecco l’intelligenza artificiale che modera i commenti

 

Addio insulti e minacce pubblicati in forma anonima su forum e siti di informazione: per bloccarli la piattaforma di Google userà il machine learning

(Foto: Google/Connie Zhou)
(Foto: Google/Connie Zhou)

In pochi probabilmente conoscono Jigsaw, incubatore tecnologico interno al gigantesco contenitore di Alphabet che dal 2010 sviluppa tecnologie con lo scopo di rendere la vita in Rete più sicura. A partire da infrastrutture in difesa della libertà di parola da soggetti repressivi per arrivare fino a sistemi dediti alla prevenzione degli estremismi online, i progetti avviati da Jigsaw sono diversi, ma l’ultimo potrebbe avere un impatto sensibile sulla vita online di una grossa fetta di popolazione. Annunciato in queste ore, si chiama Perspective ed è una piattaforma che mette gli algoritmi di machine learning in forze a Google al servizio di una vera e propria mission impossible di quest’epoca online: la moderazione dei commenti sui siti di informazione e sui forum di discussione.

Perspective, ci spiegano da Google, è un motore pensato per scandagliare i contributi generati dagli utenti sui siti che decidono di sfruttarne gli strumenti. I suoi algoritmi identificano ogni contenuto di tipo tossico: che si tratti di insulti, minacce o di semplice linguaggio scurrile, Perspective assegna un punteggio da 1 a 100 a ogni commento sulla base del suo potenziale distruttivo.

Ma come viene calcolato il punteggio? La piattaforma non è basata su alcun vocabolario iniziale né su una lista nera di parole vietate come avviene per la maggior parte dei meccanismi di moderazione attuali; Perspective usa invece gli algoritmi di machine learning di Google per confrontare ogni contributo con un enorme database iniziale di contenuti simili.

Sorgente: Google, ecco l’intelligenza artificiale che modera i commenti – Wired

Article written by