Aujourd'hui des milliers de personnes à travers le monde exercent cette profession: jour et nuit, ils visionnent et filtrent le contenu de l'internet. Sur Facebook seulement, un million d'unités de contenu serait ainsi soumis au jugement des modérateurs chaque jour. Quelles sont les difficultés et les contradictions éthiques auxquelles ces travailleurs d'un nouveau genre sont confrontés? Plus généralement, quelle est la politique — parfois controversée — des différents sites par rapport au contenu?
Avec l'évolution des plateformes, d'autres compagnies ont également créé de tels services de modération. Des sociétés indépendantes sont apparues (comme Modsquad) proposant à d'autres compagnies leurs services de modération du contenu. Certains y consacraient leurs thèses dans les universités, et les chercheurs effectuaient des stages dans des services similaires au SQUAD. Mais malgré le développement actif de ce métier, les modérateurs restent isolés des autres employés. En général, leurs locaux se trouvent éloignés des autres, il y fait sombre et les écrans de leurs ordinateurs sont protégés des regards. Ils n'ont pas le droit de montrer un contenu choquant à d'autres collègues (ce qui n'est pas forcément nécessaire — les récits suffisent à créer le malaise) ni de divulguer les principes de modération de leur compagnie.
En réfléchissant bien, ces "techniciens de surface" ont une immense influence sur notre vie. Y compris sur la politique internationale. Quand en 2009, pendant les manifestations à Téhéran après la victoire de Mahmoud Ahmadinejad à la présidentielle, Neda Agha-Soltan avait été tuée, les images de sa mort s'étaient immédiatement répandues sur la Toile. Selon Julia Mora-Blanco, le SQUAD de YouTube avait décidé de ne pas bloquer ces images même si ces dernières montraient des scènes de violence — ce qui était interdit par le règlement du site. Les informaticiens de YouTube ont dû inventer dans l'urgence pour la vidéo une signalétique d'avertissement pour mettre en garde contre la violence présente sur les images. La vidéo de l'assassinat de Neda Agha-Soltan a été emblématique pour l'opposition iranienne. Et à ce moment, le refus du SQUAD d'appliquer le règlement a montré à quel point les modérateurs de contenu étaient plus que de simples techniciens: ils influencent la liberté d'expression, l'opposition politique, les normes sociales, la sécurité des utilisateurs et la perception du sens de la vie.
Les modérateurs sont constamment confrontés aux divergences de culture, ce qui mène souvent à des impasses. Par exemple, dans le cas d'une vidéo où des adolescents se battent: pour bien faire, le modérateur de YouTube doit la bloquer car elle contient des images de mineurs impliqués dans une violence pour se divertir, mais d'autre part, en Inde les garçons d'un tel âge sont déjà considérés comme des adultes, c'est pourquoi elle ne sera pas considérée comme inadmissible. Quelle décision doit prendre le modérateur dans cette situation? Ou encore: il est interdit au modérateur d'approuver une vidéo montrant des crimes commis par des narcocartels au Mexique, dans ce cas, c'est considéré comme un contenu violent. Une telle décision pourrait sembler offensante pour certains, car au Mexique le problème de la violence des cartels est également une tragédie et un problème à l'échelle nationale.
Le processus de modération reste encore mystérieux car les compagnies internet le cachent sciemment. Les réseaux sociaux ne diffusent jamais les directives de modération interne de leur contenu et les employés qui y travaillent ou y ont travaillé signent des accords de non divulgation. Actuellement, Pinterest est le plus transparent en la matière: son site explique en détail sa politique relative à l'usage admissible du contenu et donne des exemples, ce qui permet aux utilisateurs de comprendre les principes de travail des modérateurs et leur attitude vis-à-vis de ce qui est publié sur Pinterest.
