Sur Instagram, 11 696 exemples de comment la haine prospère sur les médias sociaux

SAN FRANCISCO – Lundi, une recherche sur Instagram, le site de partage de photos appartenant à Facebook, a produit un torrent d'images et de vidéos antisémites téléchargées après le tournage de samedi dans une synagogue de Pittsburgh.

Une recherche du mot «Juifs» a affiché 11 696 messages avec le hashtag «

Les publications sur Instagram ont démontré une dure réalité. Au cours des 10 dernières années, les entreprises de médias sociaux de la Silicon Valley ont étendu leur portée et leur influence aux quatre coins du monde. Mais il est devenu évident que les entreprises n’ont jamais bien compris les conséquences négatives de cette influence, ni comment y remédier – et qu’elles ne peuvent pas remettre le génie dans le flacon.

«Les médias sociaux encouragent les gens à franchir la ligne et à pousser plus loin ce qu'ils sont prêts à dire pour provoquer et inciter», a déclaré Jonathan Albright, directeur de recherche au Tow Center for Digital Journalism de l'Université Columbia. "Le problème est clairement en expansion."

Les répercussions de l'incapacité des entreprises de médias sociaux à gérer la désinformation et les discours de haine se sont manifestées abondamment ces derniers jours. Cesar Sayoc Jr., accusé la semaine dernière avec envoi d'engins explosifs aux démocrates en vue, semblait avoir été radicalisé en ligne par des messages partisans sur Twitter et Facebook. Robert D. Bowers, accusé d'avoir tué 11 personnes à l'Arbre de la vie synagogue à Pittsburgh samedi, posté sur sa haine des juifs sur Gab, un réseau social de deux ans.

ImageUn mémorial à l'extérieur de la synagogue Arbre de vie. Robert D. Bowers, qui a tué 11 personnes à la synagogue, a fait part de sa haine des Juifs sur Gab, un réseau social vieux de deux ans.CréditMichael Henninger pour le New York Times

Les effets des médias sociaux étaient également évidents à l'échelle mondiale. Les observateurs attentifs de l'élection brésilienne de dimanche ont attribué l'essentiel de l'appel du vainqueur, le populiste d'extrême droite Jair Bolsonaro, à ce qui s’est déroulé sur les médias sociaux. Intérêts lié à la campagne de M. Bolsonaro semblait avoir inondé WhatsApp, l’application de messagerie appartenant à Facebook, avec un déluge de contenu politique qui donnait des informations erronées sur les lieux et heures de vote, donnait de fausses instructions sur la manière de voter pour des candidats particuliers et dénigrait carrément l’un des principaux opposants de M. Bolsonaro, Fernando Haddad.

Ailleurs, des membres haut placés de l'armée du Myanmar ont utilisé des messages falsifiés sur Facebook fomenter l'anxiété et la peur contre le groupe minoritaire musulman Rohingya. Et en Inde, de fausses histoires sur WhatsApp concernant des enlèvements d'enfants mobs menés à assassiner plus d'une douzaine de personnes cette année.

«Les entreprises de médias sociaux ont créé, permis et permis aux extrémistes de faire passer leur message des marges à la majorité», a déclaré Jonathan A. Greenblatt, directeur général de la Anti-Defamation League, une organisation non gouvernementale qui combat le discours de haine. «Dans le passé, ils ne pouvaient pas trouver d'audience pour leur poison. Maintenant, avec un clic, un message ou un tweet, ils peuvent diffuser leurs idées avec une vélocité jamais vue auparavant. "

Facebook a déclaré qu'il enquêtait sur les hashtags antisémites sur Instagram après leur publication par le New York Times. Sarah Pollack, une porte-parole de Facebook, a déclaré dans un communiqué qu'Instagram voyait de nouveaux messages liés à la fusillade de samedi et qu'il "examinait activement les hashtags et le contenu liés à ces événements et supprimait le contenu enfreignant nos règles".

YouTube a déclaré avoir des règles strictes interdisant les contenus incitant à la haine ou incitant à la violence et ajouté que les vidéos violant ces règles étaient supprimées.

ImageJair Bolsonaro, le populiste d'extrême droite, a été élu président du Brésil dimanche. Les observateurs attentifs de l'élection ont attribué une grande partie de son appel aux médias sociaux.CréditRicardo Moraes / Reuters

Les entreprises de médias sociaux ont déclaré qu'il est difficile d'identifier et de supprimer les discours de haine et la désinformation, voire de définir ce qui constitue un tel contenu. Facebook a déclaré cette année que seulement 38% des discours de haine sur son site étaient signalés par ses systèmes internes. En revanche, ses systèmes ont identifié et éliminé 96% de ce qu’il définissait comme de la nudité pour adultes et 99,5% du contenu terroriste.

Selon YouTube, les utilisateurs ont rapporté près de 10 millions de vidéos d’avril à juin pour violation potentielle des directives de la communauté. Selon les données de l'entreprise, un peu moins d'un million de ces vidéos ont enfreint les règles et ont été supprimées. Les outils de détection automatisés de YouTube ont également enregistré 6,8 millions de vidéos supplémentaires au cours de cette période.

Une étude Selon des chercheurs du MIT publiés en mars, les faussetés sur Twitter étaient 70% plus susceptibles d’être retweetées que les informations exactes.

Facebook, Twitter et YouTube ont tous annoncé leur intention d'investir massivement dans l'intelligence artificielle et dans d'autres technologies visant à détecter et supprimer les contenus indésirables de leurs sites. Facebook a également annoncé qu'il embaucherait 10 000 personnes supplémentaires pour travailler sur les questions de sécurité, et YouTube a annoncé son intention de: avoir 10 000 personnes dédié à la critique de vidéos. Jack Dorsey, directeur général de Twitter, récemment dit que, bien que le principe de longue date de la société fût la libre expression, elle discutait de la manière dont «la sécurité devait être la priorité

Même si les entreprises consacrent de l'argent et des ressources à leurs problèmes, certains de leurs employés ont déclaré lundi qu'ils réfléchissaient à la question de savoir si les services de médias sociaux pourraient avoir un effet positif.

La «salle de guerre» de ImageFacebook à son siège à Menlo Park, en Californie. Les répercussions de l'incapacité des entreprises de médias sociaux à gérer la désinformation et les discours de haine se sont manifestées abondamment ces derniers jours.CréditMonica Davey / Epa, via Rex

Sur Twitter, par exemple, les employés s'inquiètent de plus en plus de ce que la société traite mal le langage toxique et les discours de haine.

Les employés ont déclaré que l'incertitude avait fait surface en août, lorsque Apple et d'autres sociétés avaient effacé la plupart des publications et vidéos sur leurs services rédigés par Alex Jones, théoricien du complot et fondateur du site de droite Infowars, mais pas Twitter. (Twitter n'a fait que suivre semaines plus tard.) Les tirs de samedi dans la synagogue de Pittsburgh ont conduit les employés à demander instamment aux dirigeants de Twitter de définir une politique sur la manière de traiter le discours de haine et le contenu suprématiste blanc, ont déclaré deux personnes.

Twitter n'a pas répondu aux questions concernant les préoccupations de ses employés lundi, mais a déclaré qu'il devait être «réfléchi et pris en compte» dans ses politiques.

"Les progrès dans ce domaine sont difficiles, mais nous n'avons jamais été aussi engagés et concentrés dans nos efforts", a déclaré Twitter. "Servir la conversation publique et essayer de la rendre plus saine est notre mission singulière ici."

Créée pour permettre aux gens de partager des photos de leur nourriture, des animaux adorables et des enfants mignons, Instagram a largement évité les examens sur la désinformation et le contenu haineux, en particulier par rapport à son parent Facebook. Mais les chercheurs en médias sociaux ont déclaré que le site était devenu au cours de la dernière année un lieu privilégié de publications et de vidéos haineuses censées provoquer la discorde.

Cela était évident après le tournage de la synagogue de Pittsburgh, avec la prolifération de nouveaux contenus antisémites sur le site. Dimanche, une nouvelle vidéo ajoutée à Instagram a déclaré que l'État d'Israël avait été créé par les Rothschild, une riche famille juive. Sous la vidéo, les hashtags lus

À la fin de lundi, il avait été visionné plus de 1 640 fois et partagé avec d'autres sites de médias sociaux, notamment Twitter et Facebook.

Contenu similaire