La expulsión de QAnon: ¿Usa Twitter un sistema de "crédito social"?

La expulsión de QAnon: ¿Usa Twitter un sistema de "crédito social"?

La suspensión de la cuenta de Donald Trump por parte de Twitter ha hecho pasar casi inadvertida la eliminación de otras 70.000 cuentas, supuestamente vinculadas (todas ellas) al movimiento QAnon.

La concentración de toda la atención mediática en el caso concreto de Trump ha llevado a que no se hagan las preguntas pertinentes en torno a esta otra suspensión, que 1) alcanza una cantidad mucho mayor de personas y 2) no tiene otro motivo que limitar la "propagación de material asociado a la teoría de la conspiración QAnon".

No obstante, el gran interrogante que surge con la eliminación no reside en el por qué (que se enmarca, según Twitter, en sus intentos por impedir "la difusión de informaciones engañosas en torno al resultado de las elecciones"). Radica en el cómo. Concretamente, cómo ha hecho la empresa para elegir específicamente a esos 70.000 de entre todos sus usuarios. Mi hipótesis es que han usado algún tipo de sistema de "crédito social" parecido al que se está implementando en China y que tanto interés mediático ha generado, aplicado en este caso a las interacciones que se producen en la red social.

Antes de exponer esa hipótesis, es preciso explicar en qué consiste exactamente un sistema de "crédito social". Más allá de casos concretos, la pauta general es incentivar comportamientos etiquetados como "positivos" a la par que disuadir de aquellos que se consideran "negativos" a través del método de la recompensa y la penalización.

La manera de llevar este proyecto a cabo consiste en asignar una puntuación numérica (positiva o negativa) a la mayor cantidad de comportamientos que sea posible. En el modelo chino, ejemplos de actitudes categorizadas como "positivas" serían donar sangre o acompañar a una persona mayor al mercado. En cuanto a las "negativas", lo serían ver películas prohibidas o no pagar las multas. La idea es que los ciudadanos con una mala puntuación se enfrenten a penalizaciones que repercutan en su vida diaria, como lo son no poder viajar en avión o no tener acceso a reducciones impositivas.

El espacio virtual es el lugar ideal en el que poder desplegar estrategias de "crédito social". A diferencia del mundo exterior, en el que (todavía) no es técnicamente posible recopilar todos y cada uno de los comportamientos, cada interacción que se realiza a través de soportes digitales deja un registro altamente detallado e imposible de eliminar (IP, navegador usado, hora, tipo de acción…).

Dentro del mundo digital, las plataformas, en tanto que servicios de uso masivo administrados por un único actor (Twitter, Instagram, Twitch…) tienen por objetivo retener el mayor número de interacciones dentro de sus dominios. Cuando pasamos horas sin salir de una misma plataforma, el "rastro digital" que generamos (en forma de nuevas publicaciones, "me gustas" o revisiones de los perfiles de terceros) no se divide entre servidores pertenecientes a diferentes empresas, como sucede con la navegación web.

Por el contrario, toda nuestra actividad se concentra en los servidores de la corporación que administra la plataforma, la cual gana acceso a un registro ininterrumpido de nuestros clics. De ahí su interés por ofrecer constantemente nuevas funcionalidades, que tienen por meta que invirtamos más tiempo enriqueciendo el perfil psicológico asociable a nuestro usuario.

Dicho todo esto, no tengo en absoluto la certeza de que Twitter haya usado o use en la actualidad un sistema de "crédito social". Esta entrada solamente quiere dejar apuntada una hipótesis, sustentada en la sospecha de que revisar las cronologías de 70.000 cuentas (como mínimo) ha requerido algún tipo de asistencia automatizada. El comunicado de Twitter no da pistas en cuanto a los métodos de detección empleados, pero admite por otro lado haber introducido restricciones automáticas en la visibilidad de cuentas que hubieran difundido material asociado a QAnon con tal de penalizarlas en la lista de tendencias, búsquedas, respuestas, cronologías y recomendaciones.

Aunque por este lado se confirme que Twitter se sirve de mecanismos automáticos que afectan a la visibilidad de determinados contenidos, esto era ya conocido y seguimos no obstante sin respuesta al cómo se seleccionaron concretamente esas 70.000 cuentas (y no otras) para su eliminación.

Presumiendo que una buena cantidad de esas cuentas no tendría la palabra clave "QAnon" en sus nombres de usuario o descripciones, eliminarlas siguiendo este criterio no parece que sea un procedimiento suficientemente eficaz. Tampoco que se suspendan cuentas que hubieran difundido enlaces o etiquetas asociadas a ese grupo: podrían verse afectados usuarios que se dedican a desmontar los bulos provenientes de esos sectores o incluso la prensa que escribe regularmente sobre sus conexiones con el "trumpismo".

Teniendo en cuenta las posibilidades que ofrece el diseño de plataforma de Twitter, sería perfectamente viable el despliegue interno de un sistema de "crédito social" que sacara a la luz los verdaderos afines a QAnon. Técnicamente no es una funcionalidad complicada de implementar si se posee (caso de Twitter) un control absoluto sobre el servicio, de manera que, si no han empezado a utilizar ya mecanismos similares, es por política empresarial, no por las dificultades técnicas que acarrearía su puesta en funcionamiento.

Aplicado a Twitter, este sistema podría programarse de forma que puntuara la actividad de todos sus usuarios según una lista de comportamientos potencialmente asociados a QAnon. El sistema podría ser tan detallado como se desee (y siempre sería posible introducir cambios en tiempo real): ¿Emplea el usuario palabras clave o etiquetas claramente asociables a QAnon, como "Pizzagate" o "#SaveTheChildren"? ¿Sigue o le siguen cuentas de referencia del movimiento? ¿Se hace eco de ellas en forma de RTs o "me gustas"? ¿Con qué frecuencia diaria o semanal? ¿Difunde enlaces de páginas identificadas como sospechosas? Para intentar afinar todavía más, podría limitarse a usuarios cuyas IPs sean de Estados Unidos (aunque eso dejaría fuera a quienes se conectan mediante una VPN o Tor).

Estableciendo un umbral numérico que, en caso de rebasar, comportara la expulsión por una muy plausible pertenencia a QAnon es una de las maneras cómo se podrían haber identificado hasta 70.000 cuentas razonablemente sospechosas en el corto espacio temporal que transcurre entre el asalto al Capitolio y el comunicado de Twitter (seis días). Es decir: poniendo en marcha un sistema de "crédito social" que monitorice los comportamientos e interacciones de todos para categorizarnos según un índice de sospecha.

La problemática que surge en este caso no es tanto la censura (que se expresa más o menos en los mismos términos que la suspensión de Trump) sino las capacidades de Twitter para crear perfiles (pseudo)políticos de sus usuarios a partir del análisis de su actividad en la red social. O, en términos más generales, el peligro que conlleva que una plataforma se pueda servir veladamente de mecanismos de "crédito social" con los que medir filiaciones políticas para, si lo estima oportuno, expulsar en bloque a toda una rama política en un momento clave, sin posibilidad de respuesta (crisis de gobierno o de la legitimidad política, campaña electoral...).

La controversia no se reduciría entonces a intervenciones concretas contra Trump o QAnon, que no serían sino síntomas del poder desmesurado que han llegado a atesorar las grandes tecnológicas ("Big Tech") para influir y casi modelar el destino político de un país.

← Conspiración contra el pensamiento (apuntes sobre nuestra sociedad digital)
Trumpismo sin Twitter: la "segunda ola" será más fuerte →

Suscribirse a Interferencia

Recibe las actualizaciones de Interferencia en tu correo

Te has suscrito a Interferencia
Ahora eres un suscriptor de Interferencia
Has iniciado sesión
Success! You are now a paying member and have access to all content.
Success! Your billing info is updated.
Billing info update failed.