Facebook ignoró o fue lento en actuar ante la evidencia de que las cuentas falsas en su plataforma han estado socavando las elecciones y los asuntos políticos en todo el mundo, según un memorándum explosivo enviado por un empleado de Facebook recientemente despedido y obtenido por BuzzFeed News.
El memorando de 6.600 palabras, escrito por la ex científica de datos de Facebook Sophie Zhang, está lleno de ejemplos concretos de jefes de gobierno y partidos políticos en Azerbaiyán y Honduras que utilizan cuentas falsas o se presentan falsamente para influir en la opinión pública. En países como la India, Ucrania, España, el Brasil, Bolivia y el Ecuador, encontró pruebas de campañas coordinadas de diverso tamaño para impulsar o dificultar a los candidatos políticos o los resultados, aunque no siempre llegó a la conclusión de quién estaba detrás de ellas.
«En los tres años que he pasado en Facebook, he encontrado múltiples intentos flagrantes de gobiernos nacionales extranjeros de abusar de nuestra plataforma a gran escala para engañar a su propia ciudadanía, y causó noticias internacionales en múltiples ocasiones», escribió Zhang, quien se negó a hablar con BuzzFeed News. Su perfil en LinkedIn decía que «trabajaba como científica de datos para el equipo de falsos compromisos de integridad del sitio de Facebook» y que se ocupaba de «bots que influyen en las elecciones y similares».
«He tomado personalmente decisiones que afectaron a presidentes nacionales sin supervisión, y he tomado medidas para hacerlas cumplir contra tantos políticos prominentes en todo el mundo que he perdido la cuenta», escribió.
El memorándum es un relato condenatorio de los fracasos de Facebook. Es la historia de Facebook abdicando de la responsabilidad por actividades malignas en su plataforma que podrían afectar el destino político de naciones fuera de los Estados Unidos o Europa Occidental. También es la historia de un empleado subalterno que ejerce poderes de moderación extraordinarios que afectaron a millones de personas sin ningún tipo de apoyo institucional real, y el tormento personal que siguió.
«Sé que ya tengo sangre en mis manos», escribió Zhang.
Estas son algunas de las mayores revelaciones del memorándum de Zhang:
Los líderes de Facebook tardaron nueve meses en actuar en una campaña coordinada «que utilizó miles de activos inauténticos para impulsar al presidente Juan Orlando Hernández de Honduras a escala masiva para engañar al pueblo hondureño». Dos semanas después de que Facebook tomara medidas contra los autores en julio, volvieron, lo que llevó a un juego de «whack-a-mole» entre Zhang y los operativos detrás de las cuentas falsas, que siguen activas.
En Azerbaiyán, Zhang descubrió que el partido político gobernante «utilizaba miles de activos inauténticos… para acosar a la oposición en masa». Facebook comenzó a investigar el tema un año después de que Zhang lo denunció. La investigación está en curso.
Zhang y sus colegas removieron «10.5 millones de reacciones falsas y fanáticos de políticos de alto perfil en Brasil y los EE.UU. en las elecciones de 2018»
En febrero de 2019, un investigador de la OTAN informó a Facebook que «había obtenido actividad rusa inauténtica en una figura política estadounidense de alto perfil que no atrapamos». Zhang eliminó la actividad, «apagando el fuego inmediato», escribió.
En Ucrania, Zhang «encontró actividad guionizada inauténtica» apoyando tanto a la ex primera ministra Yulia Tymoshenko, política pro-europea y ex candidata presidencial, como a Volodymyr Groysman, ex primer ministro y aliado del ex presidente Petro Poroshenko. «Volodymyr Zelensky y su facción fue el único grupo importante que no se vio afectado», dijo Zhang sobre el actual presidente de Ucrania.
Zhang descubrió actividad falsa de Facebook para la participación de cuentas de bot y cuentas manuales coordinadas- en Bolivia y Ecuador pero eligió «no darle prioridad», debido a su carga de trabajo. La cantidad de poder que tenía como empleada de nivel medio para tomar decisiones acerca de los resultados políticos de un país, tuvo un efecto negativo en su salud
Después de conocer la manipulación coordinada en la página de Facebook del Ministerio de Sanidad español durante la pandemia de COVID-19, Zhang ayudó a encontrar y eliminar 672.000 cuentas falsas «actuando en objetivos similares a nivel mundial», incluso en los EE.UU.
En la India, trabajó para eliminar «una red políticamente sofisticada de más de mil actores que trabajaban para influir» en las elecciones locales que se celebraban en Delhi en febrero. Facebook nunca reveló públicamente esta red o que la había eliminado. Hemos creado equipos,trabajando con los principales expertos, para evitar que los malos actores abusen de nuestros sistemas, lo que ha dado lugar a la eliminación de más de 100 redes de comportamiento inauténtico coordinado», dijo la portavoz de Facebook Liz Bourgeois en un comunicado. «Es un trabajo muy exhaustivo el que estos equipos hacen como su cometido a tiempo completo. Trabajar contra el comportamiento inauténtico coordinado es nuestra prioridad, pero también estamos abordando los problemas de spam y falsos compromisos. Investigamos cada asunto cuidadosamente, incluyendo los que plantea la Sra. Zhang, antes de tomar medidas o salir y hacer reclamos públicamente como empresa».
BuzzFeed News no publica el memorándum completo de Zhang porque contiene información personal. Esta historia incluye extractos completos cuando es posible para proporcionar un contexto apropiado.
En su post, Zhang dijo que no quería que se hiciera público por temor a interrumpir los esfuerzos de Facebook para prevenir problemas en torno a las próximas elecciones presidenciales de EE.UU. de 2020, y debido a las preocupaciones por su propia seguridad. BuzzFeed News está publicando partes de su memorándum que son claramente de interés público.
«Considero que me han puesto en una situación imposible, atrapada entre mi lealtad a la empresa y mi lealtad al mundo en general», dijo. «Lo último que quiero es distraer de nuestros esfuerzos para las próximas elecciones de los EE.UU., pero sé que este puesto probablemente lo hará internamente.»
Zhang dijo que rechazó una indemnización de 64.000 dólares de la empresa para evitar firmar un acuerdo de no separación. Hacerlo le permitió hablar internamente, y usó esa libertad para contar con el poder que tenía para controlar el discurso político.
«Había tantas conductas violatorias en todo el mundo que quedaba a mi evaluación personal de qué casos investigar más a fondo, archivar las tareas, e intensificarlas para priorizarlas después», escribió.
Ese poder contrastaba con lo que, según ella, parecía ser una falta de deseo de los altos dirigentes de proteger los procesos democráticos en los países más pequeños. Facebook, dijo Zhang, priorizó regiones como los EE.UU. y Europa Occidental, y a menudo sólo actuó cuando presionó repetidamente el tema públicamente en comentarios en Workplace, el tablero de mensajes interno de la compañía, sólo para empleados.
«Sin ningún tipo de supervisión, me dejaron en una situación en la que se me confió una inmensa influencia en mi tiempo libre», escribió. «Un gerente de Respuesta Estratégica me dijo que la mayor parte del mundo fuera de Occidente era efectivamente el Salvaje Oeste y que yo era el dictador a tiempo parcial.
Un ex ingeniero de Facebook que la conocía le dijo a BuzzFeed News que Zhang era hábil en descubrir redes de cuentas falsas en la plataforma.
Es la única persona en todo este campo en Facebook en la que he confiado para ser seria sobre este trabajo», dijo el ingeniero, que había visto una copia del post de Zhang y pidió no ser nombrado porque ya no trabajan en la empresa.
«Mucho de lo que aprendí de ese post fue impactante incluso para mí, como alguien que a menudo se ha decepcionado por la forma en que la compañía trata a sus mejores personas», dijeron.
El memorándum de Zhang decía que la falta de apoyo institucional y las fuertes apuestas la dejaban sin poder dormir. A menudo se sentía responsable cuando se producían disturbios civiles en lugares que no priorizaba para la investigación y la acción.
«He tomado innumerables decisiones en este sentido, desde Iraq a Indonesia, desde Italia a El Salvador», escribió. «Individualmente, el impacto fue probablemente pequeño en cada caso, pero el mundo es un lugar vasto.»
Aún así, no creía que los fracasos que observó durante sus dos años y medio en la compañía fueran el resultado de las malas intenciones de los empleados o el liderazgo de Facebook. Era la falta de recursos, escribió Zhang, y la tendencia de la compañía a centrarse en la actividad global lo que planteaba riesgos de relaciones públicas, en lugar de daños electorales o cívicos.
«Facebook proyecta una imagen de fuerza y competencia al mundo exterior que puede prestarse a tales teorías, pero la realidad es que muchas de nuestras acciones son descuidadas y accidentes fortuitos», escribió.
«Tengo sangre en mis manos»
En otros ejemplos, Zhang reveló nueva información sobre una red de cuentas falsas a gran escala utilizada para amplificar y manipular información sobre COVID-19, así como una operación de influencia política que utilizó cuentas falsas para influir en las elecciones de 2018 en los EE.UU. y Brasil. Algunos de estos detalles no fueron revelados previamente por Facebook, lo que sugiere que los anuncios de desmontaje regulares de la compañía siguen siendo selectivos e incompletos.
Zhang dijo que Facebook eliminó 672.000 «cuentas falsas de baja calidad» después de que la prensa informara en abril de que algunas de las cuentas habían estado relacionadas con el contenido de COVID-19 en la página del Ministerio de Salud español. Dijo que las cuentas de esa red también se relacionaban con el contenido de las páginas de EE.UU. Facebook no reveló cuántas cuentas eliminó, o que esas cuentas se relacionaban con contenido de otros países, incluyendo los Estados Unidos.
Zhang también compartió nuevos detalles acerca de la escala de actividad inauténtica durante las elecciones intermedias de 2018 en los EE.UU., y de los políticos brasileños de ese mismo año. «Terminamos eliminando 10,5 millones de reacciones falsas y fans de políticos de alto perfil en Brasil y los EE.UU. en las elecciones de 2018 – políticos importantes de todas las persuasiones en Brasil, y un número de políticos de menor nivel en los Estados Unidos», escribió.
En septiembre de 2018, un informe sobre el trabajo electoral de Facebook en los EE.UU. y Brasil reveló que había actuado contra una red en Brasil que utilizaba «cuentas falsas para sembrar división y compartir desinformación», así como un conjunto de grupos, páginas y cuentas que estaban «ampliando falsamente el compromiso para obtener ganancias financieras». No mencionaba completamente los hallazgos de Zhang.
La escala de esta actividad – 672.000 cuentas falsas en una red, 10,5 millones de compromisos falsos y seguidores en otras – indica que las cuentas falsas activas son un problema mundial, y se utilizan para manipular las elecciones y el debate público en todo el mundo.
Como una de las pocas personas que buscan e identifican cuentas falsas que afectan a la actividad cívica fuera de las regiones «prioritarias», Zhang luchó con el poder que le habían otorgado.
«Nos centramos en regiones perjudiciales y prioritarias como los Estados Unidos y Europa Occidental», escribió Zhang, y añadió que «se hizo imposible leer las noticias y vigilar los acontecimientos mundiales sin sentir el peso de mi propia responsabilidad».
En Bolivia, Zhang dijo que encontró «una actividad inauténtica de apoyo al candidato presidencial de la oposición en 2019» y decidió no darle prioridad. Meses después, la política boliviana cayó en la confusión, lo que llevó a la renuncia del presidente Evo Morales y a «protestas masivas que provocaron decenas de muertos».
Lo mismo ocurrió en Ecuador, según Zhang, quien «encontró una actividad inauténtica que apoyaba al gobierno gobernante… y tomó la decisión de no darle prioridad». La ex-empleada de Facebook se preguntó entonces cómo su decisión llevó a efectos posteriores sobre cómo el gobierno de Ecuador manejó la pandemia COVID-19 – que ha devastado el país – y si eso hubiera sido diferente si hubiera actuado.
«He tomado innumerables decisiones en este sentido, desde Irak a Indonesia, desde Italia a El Salvador. Individualmente, el impacto fue probablemente pequeño en cada caso, pero el mundo es un lugar vasto. Aunque tomé la mejor decisión que pude basándome en el conocimiento disponible en ese momento, en última instancia fui yo quien tomó la decisión de no presionar más o priorizar más en cada caso, y sé que ya tengo sangre en mis manos».
Zhang también descubrió asuntos en la India, el mayor mercado de Facebook, en el período previo a las elecciones locales de Delhi en febrero de 2020. «Trabajé a través de la enfermedad para derribar una red políticamente sofisticada de más de mil actores que trabajaban para influir en las elecciones», escribió.
El mes pasado, la operación de Facebook en la India fue objeto de escrutinio después de que informes del Wall Street Journal revelaran que un alto ejecutivo de políticas del país había impedido que los empleados locales aplicaran las políticas de discurso de odio de la empresa a los políticos del partido gobernante que publicaban discursos de odio contra los musulmanes.
Lo mismo ocurrió en Ecuador, según Zhang, quien «encontró una actividad engañosa que apoyaba al gobierno gobernante… y tomó la decisión de no priorizarla». La ex-empleada de Facebook se preguntó entonces cómo su decisión llevó a efectos posteriores sobre cómo el gobierno de Ecuador manejó la pandemia COVID-19 – que ha devastado el país – y si eso hubiera sido diferente si hubiera actuado.
«He tomado innumerables decisiones en este sentido, desde Irak a Indonesia, desde Italia a El Salvador. Individualmente, el impacto fue probablemente pequeño en cada caso, pero el mundo es un lugar vasto. Aunque tomé la mejor decisión que pude basándome en el conocimiento disponible en ese momento, en última instancia fui yo quien tomó la decisión de no presionar más o priorizar más en cada caso, y sé que ya tengo sangre en mis manos».
Zhang también descubrió asuntos en la India, el mayor mercado de Facebook, en el período previo a las elecciones locales de Delhi en febrero de 2020. «Trabajé a través de la enfermedad para derribar una red políticamente sofisticada de más de mil actores que trabajaban para influir en las elecciones», escribió.
El mes pasado, la operación de Facebook en la India fue objeto de escrutinio después de que informes del Wall Street Journal revelaran que un alto ejecutivo de políticas del país había impedido que los empleados locales aplicaran las políticas de discurso de odio de la empresa a los políticos del partido gobernante que publicaban discursos de odio contra los musulmanes.
Accidentes fortuitos»
En su «tiempo libre» en 2019, Zhang asumió tareas normalmente reservadas a los gerentes de producto e investigadores, buscando países como Ucrania, Turquía, India, Indonesia, Filipinas, Australia, el Reino Unido, Taiwán, «y muchos más».
Zhang dijo que encontró y eliminó «actividades con guiones inauténticos» en Ucrania que apoyaban a Yulia Tymoshenko, una complicada figura política que ha estado involucrada en controvertidos acuerdos de gas con Rusia pero que tomó un rumbo más pro-occidental en su carrera posterior, así como para el ex primer ministro Volodymyr Groysman, un aliado del ex presidente Petro Poroshenko. «Volodymyr Zelensky y su facción fue el único grupo importante no afectado», escribió.
En otra parte de su memorándum, Zhang dijo que quería rechazar la idea de que Facebook estaba dirigido por personas maliciosas con la esperanza de lograr un resultado particular. No fue así, escribió, atribuyendo las acciones a «accidentes descuidados y fortuitos».
«El año pasado cuando bloqueamos a los usuarios para que no nombraran al soplón de Ucrania, olvidamos cubrir los hashtags hasta que yo intervine», escribió.
Los recursos humanos son limitados»
Más allá de los ejemplos específicos de todo el mundo, Zhang proporcionó información sobre el funcionamiento interno de Facebook. Criticó el enfoque de su equipo en temas relacionados con el «99% de la actividad que es esencialmente spam».
«En general, el enfoque de mi organización, y de la mayoría de Facebook, fue en problemas a gran escala, un enfoque que nos fijó en el spam», dijo. «El aspecto cívico se descartó debido a su pequeño volumen, su impacto desproporcionado fue ignorado».
Zhang esbozó los procesos políticos dentro de Facebook. Dijo que la mejor manera de llamar la atención por su trabajo no era ir a través de los canales de información adecuados, sino publicar sobre los problemas en el tablero de mensajes interno de los empleados de Facebook para aumentar la presión.
«En la oficina, me di cuenta de que mis puntos de vista no se respetaban a menos que actuara como un imbécil arrogante», dijo Zhang.
Cuando pidió a la empresa que hiciera más en términos de encontrar y detener la actividad maliciosa relacionada con las elecciones y la actividad política, dijo que le dijeron que «los recursos humanos son limitados». Y cuando se le ordenó que dejara de centrarse en el trabajo cívico, «me dijeron que Facebook ya no tendría más necesidad de mis servicios si me negaba».
Zhang fue despedida este mes y publicó su memorándum en su último día, incluso después de ofrecerse a permanecer durante las elecciones como voluntaria no remunerada. En su despedida, animó a sus colegas a permanecer en Facebook y arreglar la empresa desde dentro.
«Pero no necesitas – y no deberías – hacerlo sola», escribió. «Encuentra a otros que compartan tus convicciones y valores para trabajar juntos en ello. Facebook es un proyecto demasiado grande para que una sola persona lo arregle.
