Los mensajes que incitan al odio contras las minorías y la violencia crece de manera preocupante en las plataformas digitales. Las compañías de Silicon Valley se muestran incapaces de contrarrestar este peligroso fenómeno.
Un torrente de imágenes y videos antisemitas inundó Instagram el pasado lunes, luego de que el sábado un hombre matara a 11 personas durante una ceremonia religiosa en una sinagoga ubicada en el corazón de un barrio judío en Pittsburgh (EEUU).
Periodistas de The New York Times (NYT), al buscar la palabra «judíos» en esa red social, encontraron más de 11 mil publicaciones con la etiqueta #jewsdid911 (#judíoshicieron911) que decían que los judíos habían orquestado los ataques terroristas del 11 de septiembre en Estados Unidos. Otros mensajes tenían etiquetas con referencias nazi que incluían el número 88 y el saludo «Heil Hitler».
Las publicaciones antisemitas en Instagram revelan una oscura y peligrosa realidad. Durante los últimos 10 años compañías como Facebook y Google expandieron su influencia en casi todos los rincones del planeta. Sin embargo, nunca previeron la consecuencias negativas que esa influencia iba a tener sobre la gente, informa el NYT.
«Las redes sociales están envalentonando a las personas para que crucen la línea y envíen mensajes que tienen como intención provocar e incitar violencia. Claramente el problema se está expandiendo», dijo Jonathan Albright, director de investigaciones del Tow Center for Digital Journalism de la Universidad de Columbia, a NYT.
Los discursos de odio han aumentado en las redes sociales y compañías como Facebook o Twitter han demostrado su incapacidad para manejar o contrarrestar este peligroso fenómeno. El caso de Cesar Sayoc Jr., quien es acusado de enviar paquetes bomba a líderes como Obama o los Clinton, al parecer fue radicalizado por información que consumió en redes sociales. Por su parte, Robert Bowers, el hombre acusado del ataque en la sinagoga en Pittsburgh, publicó mensajes antisemitas en Gab, una nueva red social.
Las elecciones en Brasil también son una muestra de los efectos que tienen las redes sociales sobre la opinión pública. Algunos investigadores a atribuyen que el éxito de Jair Bolsonaro se dio por lo que ocurrió justamente en esos espacios virtuales. La plataforma de mensajes Whatsapp, que pertenece a Facebook, fue inundada con noticias e información falsa que favorecía al candidato de extrema derecha.
De manera similar, los militares en Myanmar utilizan los mensajes de Facebook para generar miedo en la población contra la minoría musulmana Rohingya. Y en India noticias falsas que se comparten por Whatsapp de niños que secuestran han generado que turbas enardecidas asesinen a más de una docena de personas este año.
«Las compañías de redes sociales han creado, permitido y habilitado que extremistas puedan mover sus mensajes de los margenes a las mayorías», dijo Jonathan A. Greenblatt, director ejecutivo de la Liga Anti Difamación, a NYT. Y agregó: «En el pasado, no podían encontrar una audiencia para envenenar. Ahora, con un click o una publicación o un tuit, ellos pueden esparcir sus ideas con una velocidad que nunca habíamos visto».
Luego de la denuncia de NYT, Facebook dijo que investigará las etiquetas antisemitas que se publicaron en Instagram. Una portavoz de la compañía aseguró que ya están revisando los mensajes y eliminado el contenido que viole sus políticas.
Las compañías de redes sociales confiesan que identificar y borrar contenido relacionado con discursos de odio o noticias falsas es una tarea complicada. Facebook reveló que solo el 38 por ciento de los mensajes publicados con discursos de odio fue detectado por su sistema interno. En contraste, el 96 por ciento del publicaciones de desnudos y el 99.5 de contenido terrorista fue detectado por el sistema, informa NYT.
Entre abril y junio, en YouTube sus usuario reportaron cerca de 10 millones de videos que podían violar las normas de la plataforma. De ese número, un millón de videos fueron eliminados. Además, una herramienta de detección de videos que infringen normas bajó del sistema 6.8 millones de videos.
Algunos estudios prenden las alarmas sobre este fenómeno, como el publicado por Massachusetts Institute of Technology que revela que la información falsa tiene un 70 por ciento de mayor probabilidad de ser retuiteada.
YouTube, Facebook y Twitter anunciaron inversiones millonarias en el desarrollo de inteligencia artificial y de otras tecnologías que permitan eliminar contenido no deseados de sus plataformas. Además, Facebook dijo que tiene entre sus planes contratar a 10 mil personas para trabajar en asuntos relacionados a la seguridad de la red social, mientras que YouTube contratará al mismo número de personas pero que éstas se dedicarán exclusivamente a revisar videos.
NYT consultó a empleados de Silicon Valley quienes, a pesar de las enormes inversiones para contrarrestar los discursos de odio y las noticias falsas, cuestionan que las redes sociales tengan un efecto positivo en la sociedad.
Cuatro empleados de Twitter, por ejemplo, están preocupados porque la compañía se nota incapaz para tratar el lenguaje tóxico y los discursos odio que abundan en esa red social. La masacre en Pittsburgh hizo que los trabajadores de la compañía presionaran a sus directivos para encontrar una forma manejar de contrarrestar las publicaciones de los supremacistas blancos.
El problema ahora se trasladó a Instagram, que fue ideada para que las personas compartieran fotos de sus mascotas, de sus viajes, de sus amigos o familia, sin embargo durante el último año han brotado publicaciones que van en contra del espíritu con el que fue creada la plataforma. Un ejemplo de ello son los mensajes antisemitas que desató la masacre en Pittsburgh.