Un canale di scacchi, fra i più noti al mondo, all’improvviso si è trovato sospeso da You Tube per 24 ore. È un canale gestito dal campione croato Antonio Radic, ma all’algoritmo della piattaforma non interessa: l’ha scambiato per un account razzista. Lo scacchista, noto sul Web come Agadmator, pubblica infatti video in cui spiega e dimostra diverse strategie di gioco.
È successo che l’intelligenza artificiale di You Tube, evidentemente non programmata correttamente a comprendere il contesto, ha ritenuto discriminatorie e d’incitamento all’odio frasi come «il bianco attacca il nero» o «il bianco schiaccia il nero». Per questo l’account è stato sospeso senza preavviso e senza spiegazioni. Comunque You Tube in una nota ha fatto sapere che «non appena abbiamo ricevuto l’informazione dell’errore abbiamo velocemente riabilitato l’account».
Due ricercatori della Carnegie Mellon University hanno capito il perché possa essere accaduto l’inconveniente. I riferimenti costanti al bianco e al nero potrebbero aver attivato un algoritmo che va alla ricerca di argomenti offensivi. «Non sappiamo qual è lo strumento usato da YouTube – hanno spiegato all’ Indipendent – ma queste cose possono accadere se si usa l’intelligenza artificiale«. Come esempio, i due ricercatori hanno usato due noti software utilizzati per la ricerca di contenuti non consentiti, nei quali sono stati caricati 680mila commenti da cinque canali YouTube dedicati agli scacchi. Di questi ne hanno scelti 1.000 da controllare personalmente e il risultato è stato che l’82% non conteneva alcun riferimento razzista, ma soltanto termini gergali riferiti al gioco come “bianco”, “nero”, “attacco”, “contrattacco”, “cattura”.