Une chaîne YouTube consacrée aux échecs a été bloquée par l’intelligence artificielle de la plateforme pour contenu «nuisible et dangereux», rapporte le journal The Independent.
Suspension sans explications
En juin dernier, le joueur d'échecs croate Antonio Radic, connu sous le pseudonyme Agadmator, commentait sur sa chaîne une partie du grand maître international Hikaru Nakamura.
Si l’accès a rapidement été débloqué par la filiale de Google, Antonio Radic n’a reçu aucune explication, indique L’Independent.
Discours de haine
Des informaticiens de l'université Carnegie Mellon ont donc procédé à une enquête dont les résultats ont été dévoilés en février. Il s’est avéré que le programme d’intelligence artificielle avait classé des items tels que «le noir contre le blanc», ou encore «attaque» et «menace» -habituels dans la bouche des joueurs- comme un «discours de haine» et avait donc suspendu l’accès à ce compte.
En effet, le système de modération YouTube n’est pas toujours en mesure de repérer le contexte, d’où de tels bogues.
«En s’appuyant sur l'intelligence artificielle pour détecter un langage raciste, ce type d'accident peut se produire», explique à l’Independent Ashiqur KhudaBukhsh, scientifique du Language Technologies Institute de l'université Carnegie Mellon.