El vacío legal de Facebook que permite a los líderes mundiales engañar y acosar a sus ciudadanos

A pesar de haber recibido advertencias con pruebas, Facebook ha permitido en múltiples ocasiones que políticos y líderes mundiales utilicen la red social para engañar al público o perseguir a sus críticos.

The Guardian ha tenido acceso a una amplia colección de documentos internos que dejan en evidencia a la red social por la forma en que gestionó más de 30 casos de manipulación política detectados en 25 países por sus empleados.

La investigación del periódico británico muestra cómo Facebook permitía abusos graves de su plataforma cuando eran cometidos en países pobres, pequeños y no occidentales, con el objetivo de concentrar sus recursos en los abusos que atraen la atención de los medios de comunicación o que afectan a EEUU y otros países ricos.

La empresa actuó con celeridad cuando se trató de atajar casos de manipulación política en países como EEUU, Taiwán, Polonia y Corea del Sur; mientras que en Afganistán, Irak, Mongolia, México y gran parte de América Latina se movía lentamente o sencillamente no hacía nada.

“En Facebook se está haciendo mucho daño sin que haya una respuesta de la empresa porque no se considera un problema de relaciones públicas tan grande para Facebook”, dice Sophie Zhang, una ex científica de datos de Facebook que trabajaba en el departamento de “integridad” para luchar contra los comportamientos no genuinos en la red. “El coste no lo paga Facebook, lo paga el mundo en general”.

Facebook se comprometió a luchar contra la manipulación política respaldada por gobiernos tras el fracaso histórico de las elecciones estadounidenses de 2016, cuando agentes rusos crearon cuentas falsas en la red social para engañar y dividir al electorado estadounidense. Pero en repetidas ocasiones la compañía no tomó las medidas correspondientes cuando le llegaban pruebas de manipulación y abuso de sus herramientas por parte de líderes políticos de todo el mundo.

En septiembre de 2020 Facebook despidió a Zhang por bajo rendimiento. En su último día en el trabajo, Zhang escribió un comunicado de despedida de 7.800 palabras para contar que había “detectado múltiples y descarados intentos de gobiernos extranjeros de abusar de nuestra plataforma de forma masiva para engañar a su propia ciudadanía”.

“Sé que tengo las manos manchadas de sangre”

También arremetía contra la red social por no haber atajado los abusos. “Sé que tengo las manos manchadas de sangre”, escribió. Ese mismo mes de septiembre BuzzFeed News publicó la noticia sobre la circular de Zhang, que ahora ha dado un paso al frente con la esperanza de que sus revelaciones obliguen a Facebook a ponderar el impacto que tiene en el resto del mundo.

“Facebook no tiene muchos incentivos para ocuparse de esto, salvo el temor a que se arme un gran escándalo porque alguien lo filtre, que es lo que estoy haciendo yo”, dice Zhang a The Guardian. “El objetivo del comportamiento no genuino es no ser detectado, no es posible arreglar algo cuando no se sabe que existe”.

“Estamos fundamentalmente en desacuerdo con la caracterización que hace la señora Zhang de nuestras prioridades y esfuerzos para erradicar de nuestra plataforma los abusos”, respondió Liz Bourgeois, una portavoz de Facebook. “En todo el mundo perseguimos de forma proactiva los abusos y tenemos equipos especializados en esta labor. Como resultado de este trabajo, hemos eliminado más de 100 redes coordinadas de comportamiento no genuino. En torno a la mitad eran redes nacionales operando en países de todo el mundo, incluyendo Oriente Medio y el Norte de África, América Latina, y la región Asia-Pacífico. Nuestra prioridad es combatir comportamientos coordinados no genuinos. También nos ocupamos del problema del spam y de la participación falsa. Investigamos cada asunto antes de tomar medidas o de hacer afirmaciones públicas sobre ellos”.

Facebook no ha rebatido las afirmaciones de Zhang sobre su etapa en la empresa.

Con 2.800 millones de usuarios, Facebook juega un papel fundamental en el discurso político de casi todos los países del mundo. Pero los algoritmos y las funciones de la plataforma pueden ser manipulados para distorsionar el debate político.

Una forma de hacerlo es con participaciones no genuinas: likes, comentarios, posts compartidos y reacciones desde cuentas falsas o hackeadas. Además de influir en la percepción que el público tiene sobre los líderes políticos, estas participaciones no genuinas pueden afectar al crucial algoritmo de noticias de Facebook y lograr manipular ese algoritmo puede ser la diferencia entre llegar a millones de personas o gritarle al viento.

Facebook contrató a Zhang en enero de 2018 para formar parte del equipo dedicado a erradicar estas participaciones no genuinas. Descubrió que la gran mayoría aparecía en publicaciones de particulares, de empresas o de marcas, pero que también se usaban en lo que Facebook llama objetivos “cívicos”, en referencia a los políticos.

El ejemplo más descarado fue el de Juan Orlando Hernández, presidente de Honduras. El 90% de toda la participación no genuina detectada en el pequeño país centroamericano en agosto de 2018 era en torno a él. Ese mes Zhang encontró pruebas que involucraban de forma directa a empleados de Hernández en la campaña para promover el contenido de su página de Facebook con cientos de miles de likes falsos.

Uno de los administradores de la página oficial de Hernández en Facebook también administraba cientos de otras páginas de la red social, diseñadas para simular perfiles antes que páginas. El empleado utilizaba esas páginas títere para dar falsos likes a las publicaciones de Hernández. El equivalente digital de llevar una audiencia comprada a un discurso.

Vacíos legales que permiten abusos

Esta forma de conseguir participación no genuina, a la que Zhang llama “abuso de páginas”, era posible gracias a una laguna en las políticas de Facebook. La empresa exige que las cuentas de usuario sean auténticas y prohíbe a los usuarios tener más de una, pero no tiene normas comparables para las páginas de Facebook, que pueden replicar muchas de las acciones de las cuentas, como compartir, comentar y dar likes.

El vacío legal sigue en vigor porque no se está persiguiendo. Al parecer, el partido gobernante de Azerbaiyán está usando el abuso de páginas ahora mismo para publicar millones de comentarios de acoso en páginas de políticos de la oposición azerbaiyana y de medios independientes.

El abuso de páginas está relacionado con lo que hizo la Agencia de Investigación de Internet de Rusia durante las elecciones estadounidenses de 2016, cuando creó cuentas de Facebook que simulaban ser de ciudadanos estadounidenses y las uso para manipular a la gente y ejercer influencia sobre el debate político. Facebook lo llamó “comportamiento no genuino coordinado” [CIB, por las siglas en inglés] y encargó su detección y eliminación a un equipo de investigadores de élite conocido como el servicio de inteligencia de amenazas. Ahora Facebook publica cada mes los datos de las campañas de CIB que detecta a la vez que elimina cuentas y páginas falsas.

Pero el servicio de inteligencia de amenazas, así como muchos gerentes y ejecutivos de la red social, se han resistido a investigar los casos de abuso en páginas de Facebook de Honduras y Azerbaiyán, pese a que en los dos casos hay pruebas que vinculan estos abusos con los gobiernos nacionales.

Entre los directivos de Facebook a los que Zhang informó de sus hallazgos se encuentran Guy Rosen, vicepresidente de integridad; Katie Harbath, antigua directora de políticas públicas para comicios globales; Samidh Chakrabarti, que en ese momento era jefe de integridad cívica; y David Agranovich, responsable de la interrupción de amenazas globales.

Los casos eran especialmente preocupantes por la naturaleza de los líderes políticos implicados. Hernández había sido reelegido en 2017 durante una elección que muchos consideran fraudulenta y su gobierno ha estado marcado por violaciones de los derechos humanos y acusaciones de corrupción desenfrenada. Se trata de un país autoritario sin elecciones libres ni libertad de prensa.

Hernández no respondió a las preguntas enviadas a su responsable de prensa, a su representante legal y a su Ministerio de Transparencia. El partido gobernante de Azerbaiyán tampoco respondió a las consultas.

A Facebook le llevó casi un año retirar la red de Honduras y se tomó 14 meses para eliminar la campaña de Azerbaiyán. En ambos casos, permitió que después volvieran los abusos.

Facebook afirma que usa métodos de detección manuales y automatizados para mantener un control sobre los casos en que se detectó CIB, y que continuamente está borrando cuentas y páginas relacionadas con redes previamente eliminadas.

Las largas demoras se debieron, en gran parte, a las prioridades de Facebook para proteger el discurso político y las elecciones. Cuando Zhang se quejó por la falta de reacción ante el caso de Honduras, Rosen le respondió lo siguiente en un chat de abril de 2019: “Tenemos literalmente cientos o miles de tipos de abuso (…) Por eso deberíamos empezar por el final (los países más importantes, las áreas más prioritarias, los temas más preponderantes, etc...) y tratar, de alguna manera, de seguir con el trabajo hacia abajo”.

En diciembre de 2019 Zhang dijo a Rosen que había sido informada de que el servicio de inteligencia de amenazas solo priorizaría la investigación de redes sospechosas de CIB en “Estados Unidos / Europa occidental y en países adversarios extranjeros como Rusia / Irán / etc”. Rosen respaldó el sistema de prioridades: “Creo que es el orden correcto”, le dijo.

Dentro del sistema de gestión de tareas de Facebook, en decenas de ocasiones Zhang elevó las alertas al equipo de inteligencia de amenazas con relación a redes de cuentas o de páginas falsas que estaban distorsionando el discurso político en Albania, México, Argentina, Italia, Filipinas, Afganistán, Corea del Sur, Bolivia, Ecuador, Irak, Túnez, Turquía, Taiwán, Paraguay, El Salvador, India, República Dominicana, Indonesia, Ucrania, Polonia y Mongolia.

A menudo, estas redes no cumplían con los criterios cambiantes de Facebook para ser priorizadas, pero violaban la política de la compañía por CIB y deberían haber sido retiradas.

Facebook sí actuó rápidamente en otros casos descubiertos por Zhang, como los de Corea del Sur, Taiwán, Ucrania, Italia y Polonia. Hubo investigaciones del personal del servicio de inteligencia de amenazas y, en su mayoría, se eliminaron las cuentas no genuinas.

En otros casos, Facebook tardó meses en actuar. Cuando en octubre de 2019 Zhang descubrió una red de cuentas falsas que usaba un script para crear participaciones falsas de baja calidad sobre políticos de Filipinas, Facebook la dejó para que muriera sola. Pero cuando en febrero de 2020 un pequeño subconjunto de esa red comenzó a crear un número insignificante de participaciones falsas en la página de Donald Trump, la red social reaccionó rápidamente para eliminarla.

En varios casos, Facebook no hizo absolutamente nada.

Un investigador del servicio de inteligencia de amenazas encontró pruebas que demostraban una relación entre individuos del gobierno albanés y una red que producía comentarios no genuinos de forma masiva, pero luego abandonó el caso.

También fue totalmente ignorada una red boliviana de cuentas falsas que trabajaba apoyando a un candidato presidencial en la fase anterior a las disputadas elecciones generales de octubre de 2019. La red seguía operando el día de septiembre en que Zhang se fue de Facebook. En Túnez y Mongolia las redes tampoco fueron investigadas, a pesar de las elecciones en el país del norte de África, y de la crisis constitucional en Mongolia.

En 2019, durante la crisis política y las protestas multitudinarias de Irak, el especialista de mercado de Facebook para Irak pidió que le dieran prioridad a dos redes detectadas por Zhang. Un investigador del servicio de inteligencia coincidió en que había que eliminar las cuentas pero nadie llevó a cabo la acción coercitiva. En su último día, Zhang encontró unas 1.700 cuentas falsas aún apoyando a una figura política del país.

Facebook, dice Zhang, tiene demasiadas resistencias para castigar a políticos poderosos. Y cuando finalmente actúa, es demasiado indulgente.

“Supongamos que alguien consigue robar un banco y que el castigo es confiscarle las herramientas que usó para el robo del banco y que hay una noticia en el periódico diciendo 'Hemos pillado a esta persona robando un banco, no deberían hacerlo’”, dice Zhang. “Eso es, en esencia, lo que está ocurriendo en Facebook, y lo que pasa es que varios presidentes nacionales han decidido que el riesgo es lo suficientemente bajo como para hacerlo”.

“Siguiendo con la analogía, es dinero que ya se ha gastado: no se puede recuperar”.