Violencia y manipulación: la influencia digital de la ultraderecha durante la pandemia

El 19 de febrero de 2020, once personas murieron y otras cinco resultaron heridas en un tiroteo terrorista protagonizado por un extremista de extrema derecha que tenía como objetivo dos bares de shisha en Hanau, Alemania. La masacre fue calificada de acto de terrorismo por el ministro del Interior alemán, Horst Seehofer. El atacante fue identificado como Tobias Rathjen, autor de un manifiesto publicado online en el que divulgaba odio contra los migrantes.

Este es solo uno de los atentados recientemente perpetrados en Europa y Estados Unidos vinculados con la extrema derecha.

En Alemania, existe un resurgimiento de varias formas de violencia de extrema derecha organizada y no organizada, incluida violencia similar a pogromos. El director del Instituto Alemán de Estudios de Radicalización y Desradicalización, Daniel Koehler, llama la atención sobre el surgimiento del “terrorismo en colmena”, que define como redes fluidas, enfocadas en la oposición al gobierno y la inmigración, que se movilizan para cometer actos violentos. El término colmena apunta a la naturaleza cambiante y desorganizada de estos grupos, que pueden incluir individuos sin vínculos previos con el extremismo.

Los grupos de extrema derecha –especialmente supremacistas blancos— están detrás de la mayoría de los ataques terroristas en EEUU, según un informe del Centro de Estudios Estratégicos e Internacionales. Según el mismo informe, los supremacistas blancos y otros grupos extremistas afines llevaron a cabo dos tercios de los complots y ataques terroristas en los Estados Unidos en 2020. Otros informes de Europol y Departamento de Seguridad de Estados Unidos hablan de que la mayor parte de la violencia extremista de los últimos años es de derechas o yihadista. De hecho, más estados en EEUU informaron de la presencia de milicias de extrema derecha (92% de las agencias de policía estatales encuestadas), neonazis (89%) y skinheads racistas (89%) que de grupos extremistas yihadistas (65%), según el informe del Departamento de Seguridad Nacional de EEUU. El especialista Vincent Auger se pregunta si la violencia de extrema derecha representa una quinta ola global de violencia. Este planteamiento se apoya en la idea de que el mundo se enfrenta a oleadas de violencia en diferentes períodos históricos. De ahí la importancia de abordar este asunto.

Ni los grupos de ultraderecha son los únicos en usar las plataformas para organizarse y cometer actos de violencia ni todos los ultraderechistas son violentos. Pero las plataformas digitales, que ofrecen una comunicación masiva e instantánea, han permitido la magnificación del alcance de los mensajes de la ultraderecha, favorecido la constitución de nuevos grupos y contribuido a la radicalización de sus proponentes. Las plataformas dan oportunidades para que las personas con sensibilidades de ultraderecha se encuentren, se reconozcan y se unan y que sus grupos recluten nuevos miembros, se promocionen y organicen para la acción. El manifiesto xenófobo de Tobias Rathjen, autor de la masacre de Hanau, hubiera quedado olvidado en un cajón si no fuera porque fue divulgado online.

Un informe del Royal United Services Institute indica que, una vez dentro de estos grupos, sus miembros quedan encerrados en burbujas ideológicas por los algoritmos de las plataformas, que pierden el contacto con la realidad y otras opiniones. Las plataformas sectarizan.

Conexión entre las ideas ultraderechistas y la violencia

Ser de ultraderecha no es sinónimo de ser violento. Por ejemplo, jefes y jefas de partidos de derecha radical europea se apresuraron a condenar el asalto al Capitolio en febrero de 2021. Pero existe una diferencia entre los partidos de derecha extrema que han aceptado el juego democrático y los grupos de extrema derecha actuando en la semiclandestinidad, que representan una amenaza para la seguridad pública. La violencia cometida por individuos y grupos inspirados por ideologías de extrema derecha se considera cada vez más una amenaza transnacional.

Después de una disminución en los ataques en 2018 y 2019, la UE notificó un total de seis ataques terroristas de derecha y varios de otro tipo cometidos por extremistas de derecha. En 2019, estos ataques se suman a una oleada de incidentes violentos en todo el mundo, con ataques en Christchurch (Nueva Zelanda), Poway (EEUU), El Paso (EEUU), Bærum (Noruega) y Halle (Alemania), cuyos autores eran parte de comunidades transnacionales de derecha que se inspiraron mutuamente.

Por tanto, hay que distinguir entre partidos políticos que defienden los postulados de extrema derecha legalmente, por muy indignos que sean estos postulados, y grupos clandestinos que los sustentan con la violencia. Estos últimos están detrás de innumerables ataques orquestados en las plataformas.

La ultraderecha en las plataformas

La ultraderecha siempre ha existido. Pero, a diferencia de antes, ahora se extiende en plataformas digitales, donde los algoritmos difunden sus mensajes de forma masiva y en tiempo real. Como dijo la primera ministra de Nueva Zelanda, Jacinda Arden, después de que un terrorista de extrema derecha matara a más de 50 personas en dos mezquitas en su país: “No hay duda de que las ideas y el lenguaje de división y odio han existido durante décadas, pero su forma de distribución, las herramientas de la organización son nuevas”.

La conexión entre el mundo digital y el mundo físico es, pues, importante. No se trata solo de palabras (en muchos casos, mensajes de odio), sino también si éstas tienen consecuencias en la vida real. Un ejemplo es el asalto al Capitolio en enero de 2021, que congregó a miles de seguidores de Trump y terminó con cinco muertos, decenas de heridos y una democracia vapuleada. Durante su mandato, Trump supo aglutinar a diversos grupos de la ultraderecha bajo la bandera republicana a golpe de tuit. Tras ser vetados en Facebook y Twitter por promover la mentira y el odio, sus partidarios recurrieron a plataformas menores que prometían ser bastiones de la libertad de expresión u operan con control limitado.

El estudioso Kevin Grisham describe cómo servicios de mensajería encriptada de Telegram sirvieron para reclutar seguidores y seguidoras, organizarse y planear el ataque. Telegram ofrece un espacio abierto en sus canales públicos, pero también permite enviar mensajes personales a través de chats. “En estos chats privados, los extremistas violentos pueden compartir tácticas, organizarse y radicalizarse, algo que he observado en mi investigación sobre el odio y el extremismo,” continua Grisham.

Estas observaciones coinciden con lo que estamos advirtiendo en otro ámbito: la difusión de pseudociencia, bulos y teorías conspirativas durante la pandemia en español. Según las apreciaciones preliminares de nuestro grupo de investigación –conformado por Congosto, Pando, Marcelino Madrigal y quien escribe—, también detectamos un repliegue del extremismo a las estancias privadas de internet. Las plataformas que permiten el acceso a sus datos, como Twitter, ofrecen a estudiosos y estudiosas una ventana al mundo de la ultraderecha, porque “si queremos saber quién está al otro lado de la violencia, tenemos que entrar al lugar donde los perpetradores se organizan y se reúnen”, dice la experta Macarena Hanash Martínez.

Twitter presentaba ventajas para la investigación por el fácil acceso a su interfaz de programación de aplicaciones (conocida por sus siglas en inglés, API) y la disponibilidad de tweets históricos. Pero no podemos limitarnos a observar Twitter porque los resultados preliminares de nuestro estudio indican que los grupos que están detrás de la pseudociencia se organizan cada vez más en otras plataformas de mensajería instantánea –como WhatsApp y Telegram—, donde no resultan tan visibles y sus datos ya no son tan accesibles.

La ultraderecha y los medios

La dicotomía entre la cara pública y la cara privada de la ultraderecha no es nueva tampoco. Esta hace que la relación entre sus organizaciones y los medios de comunicación –ya sea como canales o como mediadores periodísticos– sea ambigua. Por un lado, la derecha radical sospecha tradicionalmente del escrutinio y del periodismo, al que culpa de promover los valores liberales y de mantener el statu quo. Por otro lado, la atención de los medios permite la diseminación de sus mensajes más allá de la circunscripción limitada de una comunidad, especialmente en sus inicios.

Los medios en línea, primero, y las plataformas, después, ofrecieron un escenario para el reclutamiento, la propaganda y la radicalización de los grupos de extrema derecha. Las capacidades de las plataformas se adaptan bien a esta dicotomía. Su lado público ofrece un espacio para difundir creencias extremistas mientras haya cierta masa crítica; entretanto, su lado privado ofrece un espacio para organizar el reclutamiento y la logística de actos, publicar discursos de odio y llamados a la violencia sin temor a ser bloqueados, e incluso vender armas. Recuérdese que el delito de incitación al odio está castigado en muchos países.

En España, por ejemplo, se persigue la conducta de quien promueva el odio, hostilidad, discriminación o violencia contra un grupo o personas por razones racistas, antisemitas, ideológicas, religiosas o de género, entre otras. Pero si las llamadas al odio y a la acción violenta no salen a la luz, quedan impunes.

El uso de internet por parte de extremistas violentos data de la década de 1990, cuando los tableros de anuncios electrónicos y los sitios web permitieron a los supremacistas blancos, neonazis, grupos antigubernamentales y una variedad de otros extremistas vender sus ideologías y reclutar, según Grisham. En la década de 2000, plataformas como YouTube, Facebook y Twitter se convirtieron en la nueva forma de expansión extremista. En Estado Unidos, al ser expulsados de Facebook y de Twitter, partidarios de Trump, creyentes de la teoría de la conspiración QAnon y otros extremistas se han mudado a plataformas como Telegram, Gab, 4chan, Rumble, MeWe, Zello y 8kun (antes 8chan).

QAnon es una teoría de la conspiración de extrema derecha que alega que una camarilla secreta de pedófilos caníbales adoradores de Satanás dirige una red mundial de tráfico sexual de menores y confabuló contra Trump mientras estuvo en el cargo. Los ecos de la conjura judeo-masónica de los sabios de Sion, una teoría de la conspiración de 1902 que culpa a los judíos de querer controlar el mundo, nos llegan en versión diabólica, pederasta, bárbara y digital, más de un siglo después de que diera la vuelta al mundo. Los falsos protocolos de los sabios de Sion sirvieron como justificación de los pogromos contra los judíos en la Rusia zarista y de base a otras teorías antisemitas ultraderechistas.

La evolución de QAnon es un buen ejemplo de cómo oscuras teorías conspiratorias pueden dar el salto del mundo de los bits al de los átomos. Lo que comenzó como una obsesión de un grupo de extrema derecha atrincherado en un rincón oscuro de internet se ha colado en la arena política de las portadas de los diarios. Trump ha llegado a retuitear cuentas que promocionan QAnon, legitimándolas indirectamente, y sus seguidores acudían a sus mítines vestidos con símbolos y lemas de QAnon. Se da también un fenómeno de masa crítica. Los postulados de la derecha extrema o son indefendibles o ilegales. Sin embargo, cuanto más amplia es la base social que los enarbola, menos tímidos se vuelven sus proponentes. Otro ejemplo es la manifestación convocada por Juventud Nacional el febrero de 2021 en Madrid, que estuvo acompañada de consignas antisemitas.

Los extremistas de derecha están tomando el pulso a las plataformas, que les permiten ofrecer una cara pública y ampliar sus bases, y organizarse en la oscuridad de sus chats privados.

El efecto burbuja y el extremismo

El extremismo se puede acentuar debido a un efecto de las plataformas llamado burbuja de filtro. Las burbujas de filtro llevan a un estado de aislamiento intelectual que resulta de las búsquedas de información online, dado que los algoritmos seleccionan qué contenidos mostrar sobre la base de los perfiles de los y las usuarias, sus preferencias y gustos, sus ubicaciones y el historial de sus comportamientos. Como resultado, el algoritmo descarta aquella información que no coincide con los puntos de vista de la persona que hace la búsqueda, aislándola en una burbuja ideológica y reforzando la percepción de que sus ideas cuentan con consenso. Los resultados de las elecciones presidenciales de EEUU de 2016, que dieron la victoria a Trump, se han asociado con el efecto burbuja y la difusión de mentiras en línea.

No existe mucha investigación sobre los efectos de los algoritmos de personalización en los grupos extremistas. Un artículo sobre vídeos de extrema derecha en YouTube descubre que los usuarios y usuarias que hace caso de su sistema de recomendación pueden ser encerradas en una burbuja ideológica en cuestión de pocos clics. La recomendación de Twitter de “a quién seguir” ayudó a los seguidores de la filial de Al-Qa'ida Jabhat Al-Nursa a encontrar otras cuentas extremistas violentas. Otra investigación sobre los partidarios de Daesh (también conocido como el Estado Islámico de Irak y Siria, ISIS) reveló que la función de recomendación de Facebook había conectado al menos a dos simpatizantes. En un informe interno de 2016, Facebook admitía que el 64% de los que se unieron a un grupo extremista en dicha plataforma lo hicieron solo porque el algoritmo se lo recomendó.

Y no todas las plataformas son iguales. Por ejemplo, Reed y sus colegas han descubierto que el sistema de recomendación de YouTube prioriza el material de extrema derecha después de la interacción con contenido similar, cosa que no se da en otras plataformas como Gab. “Este hallazgo sugiere que son los y las usuarias, más que la arquitectura del sitio, quienes impulsan el contenido extremista en Gab”. Es decir, mientras que el algoritmo de YouTube parece reforzar las burbujas ideológicas, en otras plataformas es el empeño de sus usuarias el que impulsa los contenidos. Esto es relevante porque en nuestras investigaciones preliminares sobre la pseudociencia hemos observado que YouTube se usa para diseminar contenidos falsos en canales dedicados, Telegram y WhatsApp sirve para que comunidades pequeñas se organicen, y Twitter quede relegado a ofrecer la cara más presentable de los comentarios tras manifestaciones y acontecimientos públicos.

Aunque no hay todavía evidencias suficientes para hablar de un impacto sistemático del efecto filtro, se puede decir que en las plataformas tienen dos consecuencias aparentemente contrarias: primero, permiten encontrar grupos afines a personas que, de otra forma, estarían solas con sus obsesiones, y segundo, las aíslan del contacto con otras realidades e ideologías.

Por si no fueran suficientes el extremismo y las burbujas ideológicas, los bots ayudan a multiplicar el efecto de los mensajes de la derecha extrema. Sin ser prerrogativa suya, estos se han ido convirtiendo desde 2016 en una forma de generar contenidos, tráfico y adeptos importante, hasta el punto de que los bots de la ultraderecha han tenido papeles importantes en las principales elecciones de los últimos años en favor de posturas extremas o polarizando a los y las votantes.

¿El futuro?

Las plataformas, estrictamente hablando, ni son redes ni son sociales. No son lo primero porque por sí mismas no constituyen comunidades; son las comunidades las que se sirven de ellas para formarse, intercambiar ideas y organizarse. Tampoco son sociales, porque el bienestar social no es su objetivo, sino ganar dinero a través de la monetización de los datos de sus usuarios y usuarias (que no son clientes) y del cobro de servicios. Pero tampoco son medios informativos, dado que no se rigen por los principios del periodismo, que se define por el servicio a la ciudadanía y a la verdad de los hechos y el empleo del método de la verificación. Las plataformas son selectoras algorítmicas, distribuidoras y promotoras de contenidos la mayoría generados por terceros, y recolectoras masivas y explotadoras de datos.

En Antisocial: How Online Extremists Broke America, Andrew Marantz cuenta cómo los propagandistas de la extrema derecha explotan el derecho a expresarse para polarizar el mundo. Marantz sigue el rastro de “los intrusos” –conspiradores, supremacistas blancos y trolls nihilistas—, que se han convertido en expertos en el uso de los mensajes online para promover su agenda. Este libro revela cómo, al borrarse las fronteras entre tecnología, medios informativos y política, se pueden propagar ideas marginales desde los rincones anónimos de internet hasta la televisión y el Twitter del expresidente Trump y los jóvenes expulsados del bienestar son conducidos por la madriguera de la radicalización en línea.

La ultraderecha en las plataformas presenta tres retos de máxima relevancia para nuestras democracias: cómo abordamos la difusión de la mentira, la manipulación y los mensajes de odio; la desconfianza en las instituciones, y la opacidad de las plataformas.

La primera cuestión trata de hasta qué punto deberían ser las plataformas las encargadas de censurar contenidos mentirosos, manipuladores y odiosos o vetar a grupos extremistas. Para su libro, Marantz se sienta a hablar con los creadores de las plataformas cuando comienzan a considerar las fuerzas que han desatado. ¿Serán capaces de resolver la crisis de comunicación que ayudaron a provocar? No lo parece, pues el afán de lucro empuja a las plataformas hacia la maximización algorítmica de la atención despertada por los contenidos y de su capacidad de recabar y analizar datos en tiempo real.

El segundo reto es el declive generalizado de la confianza en las instituciones. Globalmente, los medios informativos y los gobiernos se sitúan en el cuadrante de las instituciones consideradas incompetentes y poco éticas, siendo algunos países europeos y Estados Unidos los lugares donde la desconfianza es más alta. Cuando se desdibujan las líneas entre tecnología, medios informativos y política, y los medios no ejercen su papel de control a los poderosos, tenemos un problema de calado.

Y el tercero es la falta de acceso a la información sobre cómo funcionan las plataformas y sus algoritmos considerados ya “cajas negras”. Se deben realizar más investigaciones, particularmente sobre plataformas que actualmente no permiten dicha investigación acerca de sus términos de servicio y su código. Esto solo se puede hacer en estrecha colaboración con las mismas plataformas y con regulación que incentive la transparencia.

Timothy Garton Ash aboga por dos vías de solución. La primera es que las democracias aborden los problemas de sus propios entornos de información. Para Gran Bretaña, por ejemplo, la batalla con el fin de defender y mejorar la BBC –una emisora ​pública que ofrece hechos verificados y diversidad de opiniones— es más importante que cualquier cosa que haga el gobierno británico con Facebook o Twitter. En EEUU, donde están algunos de los mejores medios informativos, el problema es que la mayor parte de los estadounidenses no acuden a estos sino a canales de YouTube, páginas de Facebook y feeds de Twitter “que les brindan versiones incompatibles de la realidad”. Siguiendo esa lógica, en España nos tocaría dar marcha a atrás en la polarización de los medios informativos privados y reforzar la independencia de los públicos. La segunda pasa por una alianza global. Ya que ninguna nación es lo suficientemente grande para enfrentarse a las superpotencias del mundo digital –Facebook, Google, Amazon, Twitter, Apple, Netflix—, “necesitamos la acción coordinada de una masa crítica de democracias”. Fuera de China, EEUU es el pionero en generar tendencias digitales, mientras que la UE es líder en el establecimiento de normas, argumenta este autor. “Juntemos al creador de tendencias y al creador de normas, agreguemos un montón de otras democracias líderes, y tendremos una combinación de poder regulatorio y de mercado a la que incluso Su Alteza Digital Mark Zuckerberg debe inclinarse”. Al tiempo que escribo estas líneas, Australia está librando una batalla contra Facebook.

Habrá que romper los monopolios de las plataformas, generar nuevos modelos de regulación, invertir en verificación de datos y educación digital, y generar nueva regulación y alianzas. Desde Brasil hasta Estados Unidos, desde España hasta Nueva Zelanda, las ideas y grupos de extrema derecha representan una amenaza para las sociedades democráticas. Si hay alguna esperanza de reparar esas brechas y promover la igualdad, el estado de derecho, una sociedad civil inclusiva y el respeto a los derechos humanos, necesitamos poner cotos claros a las plataformas, unos medios informativos honestos, fiables e independientes y reestablecer la confianza en ellos.