Twitter, policía de la moral árabe

Publicado por

Publicado el 27 Oct 2019

Publicidad

opinion

·

Durante las Primaveras árabes, Twitter fue una plataforma gracias a la cual la gente se mantenía informada de política y se enteraba de lo que sucedía en la calle. En Egipto también sirvió para amplificar las voces de los opositores que participaban en la revolución. El mundo acudía a Twitter donde los tuiteros egipcios informaben en directo sobre los sucesos y así se manteía al día de las últimas noticias procedentes de Egipto.

Hoy, Twitter ha cambiado. Ha dejado de ser una plataforma desde la que enfrentarse al poder con la verdad en la mano. Ha dejado de proporcionar poder a sus usuarios. Ha dejado de ser neutral. Hoy en día podemos acusar a Twitter de acallar sistemáticamente las voces del descontento en Oriente Medio y el Norte de África.

Lo que comenzó como una investigación sobre la cancelación masiva de cuentas de Twitter pertenecientes a opositores egipcios ha acabado sacando a la luz un algoritmo de censura de gran alcance que apunta a usuarios que se expresan en árabe y los acusa de conducta de odio. La historia no ha terminado. En el momento de la publicación del presente artículo continúan el bloqueo y la cancelación sistemática, masiva e injustificada de cuentas de Twitter pertenecientes a usuarios árabes. La perplejidad y la indignación cunden entre los tuiteros.

¿Por qué ahora?

La elección del momento no es casual. El compromiso político en Twitter llegó a su punto álgido a principios de septiembre, después de que Mohamed Ali, actor y contratista convertido en denunciante del sistema, revelara una serie de casos de corrupción en el seno del ejército egipcio. El 30 del mismo mes publicó un vídeo en el convocaba a la población a una manifestación al día siguiente.

Lo que viene a continuación hace sospechar que Twitter ha suspendido cuentas de usuarios críticos con el gobierno egipcio. Es más, algoritmos draconianos, aunque torpes, han acallado sistemáticamente las voces de la oposición, arrastrando con ellas a otros usuarios que nada tenían que ver.

Algoritmos draconianos, aunque torpes, han acallado sistemáticamente las voces de la oposición egipcia

La consecuencia de esta campaña de suspensiones no ha sido solo la desaparición de un número determinado de tuits críticos con el gobierno egipcio, sino sobre todo la completa anulación de la red de influencia de la oposición. Posiblemente estemos ante el primer caso políticamente motivado de un bloqueo masivo de cuentas de Twitter, llevado a cabo además en un momento en que la interacción online era muy alta y se traducía en posibles acciones directas en la calle. Y eso es lo que Twitter dijo querer evitar cuando inauguró su sucursal en los Emiratos Árabes.

Si bien en Oriente Próximo abundan quienes acusan a Twitter de complicidad con los gobiernos árabes, la recogida de datos, que no ha sido exhaustiva, no demuestra de forma concluyente que Twitter haya causado a propósito la mencionada anulación de la influencia de la oposición, aunque en realidad sea lo más probable. De hecho, las acusaciones no se limitan a Egipto. La sensación de que criticar al gobierno acarrea medidas punitivas por parte de Twitter es común a todos los países de la región.

Twitter se ha negado a facilitar el número de cuentas suspendidas y no ha querido aclarar si ha sufrido presiones por parte de algún gobierno árabe.

Los sistemas tecnológicos reflejan los prejuicios de quienes los diseñan. La información contenida en este artículo revela un denominador común: todas las cuentas suspendidas pertenecían a usuarios críticos con el gobierno egipcio.

Suspensión masiva de cuentas

El 1 de octubre de este año, @Ganzeer, un conocido grafitero egipcio, publicó un tuit acerca de la suspensión de su cuenta. Le siguió una serie de quejas sobre suspensiones inexplicables. El análisis de los hilos de Twitter mostró un número sorprendente: en solo una semana más de 150 usuarios afirmaban que su cuenta había sido suspendida.

A @Ganzeer se le dieron las siguientes razones:

  • usar un hashtag popular o que es tendencia con la intención de trastornar o manipular una conversación o de dirigir el tráfico o la atención hacia ciertas cuentas, sitios web, productos, servicios o iniciativas; y
  • tuitear con una cantidad excesiva de hashtags no relacionados en un solo tuit o en varios tuits.

Esta regla no se había aplicado solo a @Ganzeer, sino también, y de manera más preocupante, a las cuentas de muchos otros usuarios, que fueron suspendidas sin recibir explicación alguna.

Suponíamos que Twitter había sufrido presiones por parte de los gobiernos de Oriente Próximo

Las cuentas de @SamiaRaoof, @DaliaMewYork, @elnggar_said y @iRafla fueron suspendidas más o menos al mismo tiempo que la de @Ganzeer. Todos, unos antes y otros mucho después, recibieron más tarde un correo electrónico en el que se les explicaba que se les había suspendido la cuenta por error.

La suspensión desconcertó a muchos usuarios verificados, como @Cairo67Unedited, quien escribió en un mensaje:

Quiero subrayar que me han suspendido la cuenta a pesar de lo siguiente:
1. En 8.5 años en Twitter nunca he recibido ni un solo aviso.
2. Soy un usuario verificado.

Las campaña de suspensiones parece haber tenido lugar a fines de septiembre y haber durado entre uno y varios días. En muchos casos, Twitter ha manifestado que se trataba de un error. Algunas de las cuentas afectadas tenían unos pocos seguidores y otras cientos de miles.

Un grupo de investigadores y yo decidimos verificar qué cuentas han sido rehabilitadas y cuáles siguen suspendidas. Nuestro objetivo: averiguar el porqué de las suspensiones. Suponíamos que la oficina de Oriente Próximo y Norte de África de Twitter había sufrido presiones por parte de los gobiernos de la región, que pretendían contrarrestar la influencia de la oposición en las redes sociales.

Estas especulaciones no son nada nuevo. Comenzaron cuando se descubrió la existencia de un espía saudí infiltrado en Twitter. La desconfianza continuó tras la súbita desaparición en julio de 2018 de un hashtag contrario al presidente egipico Abdelfatah Sisi, que se había convertido en trending topic. El descubrimiento de que el editor en jefe de Twitter en la región era un oficial del ejército británico especializado en guerra de la información no contribuyó precisamente a calmar los ánimos.

Disculpas

La investigación de las cuentas afectadas y la verificación de las declaraciones de sus usuarios obligaron a Twitter a publicar una disculpa, aunque en realidad no se ofrecía en ella ningún motivo convincente ni explicación:

Mientras llevábamos a cabo operaciones rutinarias de control de actividades de spam y de aplicación de las reglas de la plataforma, Twitter ha suspendido por error una serie de cuentas en Egipto. Los sentimos.

La imprecisa disculpa se produjo después de muchos intentos por parte de ONG como EFF, SMEX y Access Now por conseguir que Twitter les diera una respuesta. Las cuentas suspendidas no eran tan solo egipcias. Muchas de ellas, la de @Ganzeer, @DaliaNewYork, @Cairo67Unlimited y @Hend_Nafea procedían de Estados Unidos. La suspensión ha afectado también a cuentas originadas en otros países de la región y críticas con el gobierno egipcio.

Pero no ha quedado ahí la cosa. El 6 de octubre se bloqueó la cuenta de la conocida escritora Ahdaf Soueif. Ella lo anunció con el mensaje: Los buenos de Twitter me ha suspendido la cuenta. “Actividades inusuales”, dicen. ¿Qué quieren decir con eso de “inusual”? ¿Tendrá todo esto algo que ver con la respuesta de Twitter a las dos presentaciones públicas que he hecho estos últimos días?

Policía de la moral

Mientras recabábamos más testimonios y documentación, nos dimos cuenta de que algunas de las cuentas suspendidas no se habían restablecido ni siquiera después de la disculpa de Twitter y la apertura del proceso de apelación. Twitter rechazaba constantemente las apelaciones.

Entrevisté a @OfficialAmro1, un usuario con más de 265.000 usuarios y 115.000 tuits, afectado por la suspensión masiva. Le habían suspendido la cuenta sin motivo. “Y ni siquiera uso palabrotas”, afirmó.

“La vulgaridad no es causa de suspensión de una cuenta, ni siquiera cuando se usa contra un personaje público. La incitación sí”, respondí ingenuamente.

“Ahora sí lo es”, dijo él, antes de añadir que Twitter puede bloquear o suspender una cuenta por críticas a un personaje partidario de los regímenes árabes.

La más leve sospecha de insulto a un personaje público puede acarrear la suspensiónde una cuenta

Muchos otros me enviaron sus historias. Me sorprendió que tanta gente hubiera cumplido condena en la cárcel de Twitter por diversos motivos. Entonces me di cuenta de que hacía tiempo que existían otros tipos de suspensión sistemática de cuentas y que los tuits en árabe de los usuarios se marcaban como “conducta de odio”.

La política de Twitter contra la “conducta de odio” dice así: “No se permite fomentar la violencia contra otras personas ni atacarlas ni amenazarlas directamente por motivo de su raza, origen étnico, nacionalidad, orientación sexual, género, identidad de género, afiliación religiosa, edad, discapacidad o enfermedad grave”.

Tras analizar el contenido de los mensajes marcados como conducta de odio, llegué a la conclusión de que la mayoría no infringían las normas de Twitter. No tardé en descubrir que @OfficialAmro1 tenía razón. En los tuits había expresiones vulgares, pero eso no era suficiente. Hacía falta profundizar un poco más.

En árabe es común el uso de palabras malsonantes. Obtuve unas cincuenta muestras y más de treinta capturas de pantalla con el email enviado por Twitter identificando el tuit infractor. Estaba claro que no era solo una cuestión de obscenidad.

Ejemplos

Al @AElMassry le bloquearon la cuenta por responder a uno de sus seguidores de la siguiente manera: “Durante la época de los Hermanos Musulmanes aparecieron unos cuantos lameculos que se convirtieron en partidarios del Estado tras la aparición del lameculos”[se refiere al presidente Sisi]. El crimen que condujo al bloqueo de la cuenta de @DaliaNewYork, que vive en los Estados Unidos y es copta, el 18 de abril fue el siguiente tuit: “Tawadros [el Papa copto] es un lameculos”.

Tuiteé: “No seáis tan lameculos y dejad de suspender cuentas por decir ‘lameculos'”

La más leve sospecha de insulto a un personaje público puede acarrear la suspensión o el bloqueo de una cuenta. Así, cuando @mostafamahdi202 acusó a cierto parlamentario egipcio de hipocresía usando un término que ni siquiera era una vulgaridad sino una palabra normal que suena muy parecida, Twitter decidió que incurría en un delito de conducta de odio de todas formas. La diferencia entre el término vulgar y el normal es un simple punto encima de una letra, pero en la cultura pop árabe el término normal se ha convertido en un insulto eufemístico.

“Colega, fíjate que la oposición, los partidarios del gobierno y el resto de Egipto solo se ponen de acuerdo en una cosa: eres un ensanchador”. En árabe egipcio la palabra ensanchador suena muy parecida a lameculos.

Más trágicamente divertidos son los ejemplos de quienes que bromean con sus seguidores usando las palabras malsonantes del lenguaje coloquial. A @ism3lawy_ se le ocurrió insultar al Zamalek, un equipo de fútbol egipcio, y le suspendieron la cuenta permanentemente tanto a él como a uno de sus amigos. En una conversación distinta, a su amigo @EHAB_M0 también le acabaron suspendiendo la cuenta de forma permanente por andar bromeando con sus seguidores.

Uno puede acabar dando con sus huesos en la cárcel de Twitter por más razones que insultar a un equipo de fútbol. A @YoussefAmr1907 le suspendieron la cuenta por tuitear “La peli es una hijaputa y el banco central es un hijoputa”. La peli a la que se refiere, por cierto, era Érase una vez en Hollywood.

@Armed007, suspendido para siempre, respondió una vez: “Desde el cariño, Mr. Gamal… A tomar por culo”.

Hasta añadió un corazoncito.

Hablando en serio, en el siguiente ejemplo, que debería poner en estado de alerta a la policía de la moral, la usuaria responde a un seguidor por el uso constante de la palabra “puta” como ejemplo para todo: “El único ejemplo que tienen es el de la prostituta. Hasta la prostituta tiene que estar ya enferma de que le den tanto uso”.

Análisis: el efecto “lameculos”

Hasta el momento, las suspensiones que hemos visto tenían lugar cuando el tuitero respondía a otro usuario, se le mencionara o no en el contenido del tuit. Pero no siempre es así. Hay, según parece, cálculos más complejos.

Me centré en el uso de la palabra “lameculos”, عرص en árabe, una palabra no demasiado vulgar que aparece en muchos de los textos censurados. Es una palabra con muchas connotaciones en la lengua árabe. Históricamente tiene un significado parecido a “chuloputas”, pero ha evolucionado y hoy en día se usa para indicar falta de honradez e hipocresía. Lo traduzco como lameculos porque conserva algo de la vulgaridad original. Durante un tiempo al presidente egipcio Abdel Fatah Sisi se le conoció por el despectivo mote de El Lameculos.

Cuantas más acepciones de la palabra se usen en la respuesta, más probabilidades de suspensión de la cuenta por conducta de odio.

Decidí poner a prueba mi hipótesis. Escogí responder a la cuenta @TwitterMENA ya que, al ser una de las cuentas del sistema, daría mejores resultados a la hora de comprobar el funcionamiento de la regla y era menos probable que se malinterpretara como conducta de odio. Tuiteé lo siguiente: “No seáis tan lameculos y dejad de suspender cuentas por decir “lameculos” y “lamerle el culo a…”

En cuestión de segundos, el algoritmo identificó las palabrotas y Twitter me bloqueó la cuenta durante 12 horas. Nunca me ha había sucedido antes. Seguramente se les escapó la ironía de la situación.

Twitter me ofrecía dos soluciones; eliminar el tuit o apelar su decisión. Decidí apelar e hice el más preocupante y desconcertante de mis descubrimientos: el sistema de apelación de Twitter para la región de Oriente Próximo y África del Norte no funciona.

Tuiteé varias versiones en inglés de mi tuit original, esta vez dirigido a @TwitterCanada, @Twitter Gaming and @TwitterAU:

No seáis tan chuloputas y dejad de suspender cuentas por decir chuloputas y chulear.
No seáis tan lameculos y dejad de suspender cuentas por decir lameculos y “lamerle el culo a…”.

Ni me bloquearon ni me suspendieron la cuenta.

Ciertas organizaciones que tienen contacto con Twitter le han remitido los resultados de mi análisis y le han pedido un comentario. Twitter no ha dado respuesta.

El algoritmo imprudente

Incluso hablar de prostitución puede acarrear una suspensión. Intenté algo parecido al ejemplo mencionado más arriba con una cuenta nueva, @TerryBirdFlies, bajo el nombre asumido de Terry Bird.

El tuit dice así: “Por qué esa obsesión con las prostitutas. Es repugnante. A las prostitutas a veces las obligan. El honor va más allá del sexo”.

También me acusaron de conducta de odio. Cualquier conversación real puede acarrear el bloqueo.

Descubrí que el término “lameculos” estaba prohibido. La palabra árabe es عرص. La versión suave que suena parecido y sirve de eufemismo es عرض.

Mi experimento demostró que una palabra inocente se había añadido al algoritmo árabe de Twitter

La única diferencia es el punto sobre una de las letras. La primera se pronuncia ars y la segunda ard. Se suele usar como eufemismo (aunque en realidad ars no es una palabrota muy fuerte sino más bien la descripción coloquial de una actitud política). La otra palabra, con punto, significa anchura, presentar o mostrar. Tiene muchas acepciones, igual que la versión original sin punto, lameculos.

Todas estas palabras están prohibidas aunque no sean insultos y Twitter puede bloquear o suspender definitivamente a los usuarios que las usen sin posibilidad de apelación.

Mi último experimento tenía como objeto demostrar que una palabra inocente como ‘ard se había añadido al algoritmo árabe de Twitter y que en Twitter nadie cuenta las palabras ni atiende a las apelaciones. Tuiteé lo siguiente, otra vez como @TerryBirdFlies:

“Mr. Nabil, está usted constantemente expuesto al peligro, es importante que revele la verdad sin poner a nadie más en peligro o bien que presente su versión del asunto”.

Las palabras en negrita son acepciones de la palabraard, que recordemos suena parecido a lameculos.

La nueva cuenta desde la que publiqué el tuit fue suspendida definitivamente y la apelación fue rechazada.

“Tu cuenta se suspendió definitivamente debido a incumplimientos de las Reglas de Twitter específicamente de las Reglas contra la Conducta de Odio. Esta cuenta no se restablecerá”.

Si Terry hubiera tuiteado en inglés aún estaría volando… Adiós, @TerryBirdFlies.

La vida sigue

Al principio de la revolución egipcia de 2011, a los los manifestantes se les criticaba continuamente por usar palabras malsonantes… por mucho que a la vez se les disparaba y se les mataba. A los partidarios del régimen les importaba más criticar unas cuantas palabrotas que los asesinatos, las torturas y la brutalidad.

En los regímenes despóticos árabes hay siempre un elemento de custodia de la moral que ahora se refleja en el algoritmo de Twitter, como demuestran los numerosos ejemplos recogidos en este artículo.

En 2005 Jack Dorsey tuiteaba “Twitter está a favor de la libertad de expresión. Estamos a favor de quienes se enfrentan al poder con la verdad. Y estamos a favor del diálogo”.

Sin embargo, hoy somos testigos de cómo Twitter censura la libertad de expresión y se alinea con el poder en vez de hacerlo con quienes se enfrentan al poder con la verdad. La campaña contra las palabras malsonantes contradice directamente las propias recomendaciones de Twitter para el fomento de la conversación saludable.

“La plataforma ha descubierto que si bien la descortesía, que infringe las normas de la educación, puede ser problemática, también puede cumplir una importante función en el diálogo político. Por el contrario, la intolerancia, el discurso de odio, el racismo y la xenofobia, son una amenaza inherente a la democracia. Por eso el equipo de Twitter seguirá trabajando en el desarrollo de algoritmos que diferencien entre ambos comportamientos”.

En Twitter la moderación deja mucho que desear.

Quienes han diseñado el sistema han incluido en él sus prejuicios, sus ideas políticas y su conservadurismo

Twitter mantiene un complejo sistema de identificación de la conducta de odio. Twitter no solo debe revisar los términos relacionados con la conducta de odio incluidos en sus sistemas, sino que debe también revisar todas las palabras clasificadas erróneamente por el algoritmo defectuoso. La inclusión de palabras inocentes en el listado de términos de conducta de odio con el fin de perjudicar a la oposición va más allá de las acusaciones de racismo en la identificación del contenido tóxico por parte de Twitter.

Con mi limitado acceso a los datos de Twitter he sido capaz de descubrir al menos veinte cuentas suspendidas de manera definitiva por error. Supongo que en realidad serán cientos o incluso miles.

Sea cual sea el mecanismo moderador de la plataforma, en Twitter hay personas que han diseñado el sistema y han incluido en él sus propios prejuicios, sus propias ideas políticas y ese conservadurismo que ha acabado amordazando a los usuarios árabes. Este comportamiento refleja una política tácita de protección ante la crítica que favorece a los personajes públicos al mismo tiempo que amplifica sus voces en detrimento de aquellos que se les oponen.

En unas declaraciones recientes, Twitter decía: “Nuestro objetivo es aplicar nuestras reglas de forma juiciosa e imparcial”.

Sin embargo, entre los usuarios procedentes del mundo árabe la sensación es que ese objetivo no se ha alcanzado. Existe una clara discriminación, rayana incluso en el racismo, en la aplicación de dichas reglas.

Durante el proceso de documentación de mis descubrimientos me he puesto en contacto con multitud de personas y hay un comentario que se me ha quedado grabado: “Gracias por intentar hacer de Twitter un espacio de libertad de nuevo”.

Twitter ya no es un espacio de libertad y va a ser necesario algo más que documentación para que vuelva a serlo.

·

El artículo original contiene ejemplos de los tuits mencionados y numerosos enlaces.

¿Te ha gustado esta columna?

Puedes ayudarnos a seguir trabajando

Donación únicaQuiero ser socia
manos

Post relacionados

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *