«Le noir contre le blanc»: YouTube suspend l’accès à une chaîne d’échecs

YouTube a brièvement bloqué une chaîne d’échecs pour langage raciste. Interrogé par l’Independent, le scientifique Ashiqur KhudaBukhsh constate que l’intelligence artificielle peut se tromper en analysant ce type de contenu avec des termes fréquents comme «noirs» et «blancs».
Sputnik

Une chaîne YouTube consacrée aux échecs a été bloquée par l’intelligence artificielle de la plateforme pour contenu «nuisible et dangereux», rapporte le journal The Independent.

Suspension sans explications

En juin dernier, le joueur d'échecs croate Antonio Radic, connu sous le pseudonyme Agadmator, commentait sur sa chaîne une partie du grand maître international Hikaru Nakamura.

Si l’accès a rapidement été débloqué par la filiale de Google, Antonio Radic n’a reçu aucune explication, indique L’Independent.

Discours de haine

Des informaticiens de l'université Carnegie Mellon ont donc procédé à une enquête dont les résultats ont été dévoilés en février. Il s’est avéré que le programme d’intelligence artificielle avait classé des items tels que «le noir contre le blanc», ou encore «attaque» et «menace» -habituels dans la bouche des joueurs- comme un «discours de haine» et avait donc suspendu l’accès à ce compte.

En effet, le système de modération YouTube n’est pas toujours en mesure de repérer le contexte, d’où de tels bogues.

«En s’appuyant sur l'intelligence artificielle pour détecter un langage raciste, ce type d'accident peut se produire», explique à l’Independent Ashiqur KhudaBukhsh, scientifique du Language Technologies Institute de l'université Carnegie Mellon.
Discuter