Il canale YouTube di scacchi Agadamator bloccato per frasi razziste

Contenuti razzisti: questa è la motivazione che ha portato al blocco dell’account Youtube di un canale dedicato al gioco degli scacchi. Il canale si chiama Agadmator ed è uno tra i più seguiti nel mondo tra gli appassionati della scacchiera. L’errore sarebbe stato fatto dall’Intelligenza Artificiale, usata per controllare ed eventualmente censurare i video postati sulla piattaforma video. Questa almeno è la teoria che ha riportato in voga l’accaduto, risalente a giugno scorso. La plausibile spiegazione è stata offerta da Ashique R. Khuda Bukhsh e Rupak Sarkar della Carnegie Mellon University e riportata sull’Independent: “Non sappiamo quale strumento venga usato da YouTube ma queste cose possono accadere se si usa l’intelligenza artificiale”.

Probabilmente la frequente ripetizione di "bianco" e "nero" ha attivato un algoritmo che va alla ricerca di argomenti offensivi. Per validare la loro teoria i ricercatori hanno condotto un piccolo esperimento, hanno preso  680 mila commenti random provenienti da 5 canali YouTube dedicati agli scacchi e li hanno caricati su due famosi software tipicamente usati per scovare offese. Hanno poi controllato 1000 dei commenti segnalati come offensivi da almeno uno dei due software e ciò che è emerso è che l’82% di questi non conteneva alcun riferimento razzista, ma solo riferimento al gioco degli scacchi in cui pericolosamente si mischiano parole come “bianco”, "nero”, “attacco”, “minaccia”, “cattura”, ecc.

Non è la prima volta che accadono cose simili. Infatti i blocchi fatti dai sistemi di controllo sono solitamente “preventivi” e colpiscono anche molto più del necessario, successivamente vengono controllati da essere umani e validati o meno. Il problema è quando contenuti davvero razzisti o offensivi sfuggono anche al primo controllo automatico. Uno strumento importante a disposizione degli utenti di tutti i social network è la segnalazione del contenuto offensivo, così da scavalcare l'intelligenza artificiale. Usatela con intelligenza (umana, non artificiale).