La moderación de contenidos

La moderación de contenidos es el conjunto de reglas, procedimientos y trabajo humano con el que una plataforma decide qué publicaciones permanecen visibles y cuáles se retiran, degradan o etiquetan. La observación central de este campo, formulada por Tarleton Gillespie en 2018, es contraintuitiva y decisiva: moderar no es una tarea accesoria que las plataformas asumen a regañadientes, es su producto. Un servicio abierto sin moderación se llena en semanas de material que expulsa a los usuarios —fraude, acoso, contenido sexual no consentido, contenido de explotación infantil— y deja de ser utilizable. Toda plataforma es, por tanto, una operación de censura privada, y la única pregunta razonable es quién fija sus reglas y con qué posibilidad de recurso.

La genealogía útil no es la de la censura estatal sino la de la autorregulación de una industria para evitarla, porque ahí está el patrón que se repite. En Estados Unidos, la ley Comstock de 1873 convirtió al servicio de correos en el filtro moral del país y dio a un inspector particular, Anthony Comstock, poderes para incautar impresos, con una amplitud que su propia época encontró excesiva. Cuando el cine se convirtió en espectáculo de masas, las juntas municipales de censura empezaron a multiplicarse y a dictar criterios contradictorios de una ciudad a otra; la industria reaccionó adoptando en 1930 un código propio, y a partir de 1934 una oficina que lo aplicaba antes del rodaje con capacidad de negar el sello sin el que ninguna sala exhibía. El código no era ley: era un contrato privado más restrictivo que cualquier norma vigente, adoptado para impedir que se legislara. Ese es exactamente el argumento con el que las plataformas defienden sus normas de comunidad, y también explica su rasgo más constante —que prohíben bastante más de lo que la ley prohíbe—.

El paso al mundo digital tiene un origen jurídico concreto y con una ironía dentro. A comienzos de los años noventa, dos sentencias estadounidenses establecieron una regla perversa: un servicio en línea que no moderaba nada era tratado como simple distribuidor y no respondía por lo publicado, mientras que uno que moderaba pasaba a ser considerado editor y respondía de todo, incluso de lo que no había visto. La consecuencia era que moderar salía carísimo y no moderar era gratis. La sección 230 de la ley estadounidense de 1996 se escribió precisamente para eliminar ese incentivo: garantizó que retirar contenido de buena fe no convirtiera al servicio en responsable del resto. Es decir, la norma que suele presentarse como el escudo de la impunidad de las plataformas se aprobó para hacer posible la moderación. Sin ella, el modelo dominante habría sido el de no tocar nada.

Lo que la etapa digital añade es la escala, y la escala convierte un problema de criterio en un problema de aritmética. Las grandes plataformas informan de retiradas del orden de miles de millones de elementos por trimestre. Con volúmenes así, cualquier tasa de acierto por debajo del cien por cien produce errores en cantidades absolutas enormes: un 99 % de precisión sobre mil millones de decisiones deja diez millones de decisiones equivocadas, repartidas entre retiradas injustas y contenidos dañinos que permanecen. No existe ninguna combinación de personas y software que elimine ese resultado, y por eso la discusión sobre si una plataforma «censura demasiado» o «no hace lo suficiente» suele ser una discusión sobre qué tipo de error se prefiere. La automatización funciona muy bien en un caso concreto y mal en el resto: comparar una imagen contra una base de huellas digitales de material ya identificado es fiable y rápido, mientras que juzgar si una frase nueva es una amenaza, una broma o una cita requiere contexto, y los clasificadores rinden mucho peor en los idiomas para los que hay menos datos de entrenamiento, que son la mayoría de los idiomas del mundo.

La parte que menos se discute y más importa es el trabajo. Sarah T. Roberts documentó en 2019 lo que llamó moderación comercial de contenidos: decenas de miles de personas, casi siempre contratadas por empresas intermediarias en países con salarios bajos, revisando cada día colas de material que incluye violencia extrema, abuso sexual infantil y suicidios, con cuotas de decisiones por hora, acuerdos de confidencialidad que les impiden hablar de su trabajo y un acceso escaso a atención psicológica. La invisibilidad no es un descuido: forma parte del diseño, porque la ficción de un servicio automático y neutral es comercialmente valiosa. Las consecuencias han llegado a los tribunales —hay al menos un acuerdo colectivo multimillonario en Estados Unidos por daños psicológicos a miles de moderadores, y litigios en curso en África oriental sobre condiciones laborales en los centros subcontratados—, y su interés sociológico es que revelan la estructura completa: en la cadena que va del usuario que denuncia a la publicación que desaparece, la parte peor pagada y con menos protección es la única que efectivamente decide.

La regulación pública ha vuelto por dos vías opuestas. La alemana, en 2017, impuso plazos cortos para retirar contenido manifiestamente ilícito bajo multas elevadas, con la objeción previsible y bien fundada de que un plazo corto más una multa alta empuja a retirar por defecto, de modo que la norma compra seguridad jurídica a costa de sobrerretirada. La europea, con el reglamento de servicios digitales de 2022, escogió una vía procedimental en lugar de sustantiva: no dice qué hay que quitar, sino que obliga a explicar cada retirada al afectado, a ofrecer un recurso, a publicar informes de transparencia y a evaluar riesgos sistémicos. Esa elección responde a la crítica que Kate Klonick había formulado en 2018 al describir a las plataformas como los nuevos gobernantes de la expresión: el problema no es que fijen reglas —alguien tiene que hacerlo— sino que las fijaban sin motivación, sin apelación y sin registro público, es decir, sin ninguno de los rasgos que distinguen a un procedimiento de una arbitrariedad. La respuesta privada al mismo reproche fue la creación de órganos de apelación independientes, un mecanismo que resuelve una cantidad ínfima de casos y cuyo valor real es sentar criterio.

Quedan dos objeciones que ninguna reforma disuelve. La primera es que la moderación es política aunque se presente como técnica: las normas se redactan en una lengua y una cultura y se aplican a cientos de contextos donde el mismo enunciado significa cosas distintas, y no existe un punto de vista neutral desde el que decidir. La segunda es que la eficacia de las medidas más contundentes es limitada y desigual: expulsar a una cuenta o a una comunidad reduce su alcance en la plataforma que la expulsa, y eso está medido, pero desplaza a una parte de su audiencia hacia espacios menos moderados donde es más difícil observarla, con lo que el problema mejora en el sitio donde se mide y empeora donde no se mide. La conclusión honesta es que la moderación no es un problema que admita solución, sino una función de gobierno permanente, ejercida por empresas privadas sobre la infraestructura de la conversación pública, y que las únicas mejoras verificables hasta ahora no han venido de acertar más, sino de dejar rastro: motivar las decisiones, permitir recurrirlas y publicar los números.

Las cámaras de eco – La clasificación algorítmica – La economía de la atención – Censura – Comunicación de masas – Industria cultural – Capitalismo de la vigilancia – Era digital