Por Patricia Díaz Rubio
Directora ejecutiva de Wikimedia Chile
En los entornos digitales, especialmente ahora que los LLM puede producir textos a gran escala, el viejo principio democrático de que entre más se expresen las personas más se fortalecerá el debate público ya no es suficiente. Los discursos perniciosos ya no circulan simplemente como opiniones individuales; ahora pueden ser algortírmicamente amplificados, generados en bloque, diseñados específicamente para grupos determinados, y ser persuasivos a gran escala.
A pesar de eso, algunos usuarios online han decidido mantener las narrativas perniciosas a raya, corrigiendo argumentos falsos, señalando las contradicciones, advirtiendo sobre sus consecuencias, usando humor, a través de la empatía, identificándose con los grupos afectados, o denunciando sistemáticamente los mensajes que consideran de odio o peligrosos. Es lo que Jimin Mun (2024) y otros colegas han llamado el “counterspeech” o “contradiscuso”: una forma de entender las respuestas civilizadas a los discursos de odio y que buscan reducir su influencia y volver a dibujar las normas de convivialidad en torno al debate público en internet, en vez de sólo pedir su remoción instantánea de las plataformas.
Desde que las plataformas de redes sociales se hicieron ampliamente populares, la proliferación de discursos dañinos en su interior se ha convertido en un desafío significativo para su funcionamiento y en una preocupación para una amplia variedad de actores. En algunos países, la opinión pública ha coincidido en que la eliminación es la mejor respuesta cuando estas acciones son abiertamente ilegales, como las amenazas, la distribución no consensuada de material sexual, el doxing u otras formas de acoso en línea. Sin embargo, cuando las narrativas dañinas adoptan formas más sutiles, como campañas de desinformación o discursos racistas, xenófobos o misóginos, la pregunta sobre cómo responder se vuelve mucho menos evidente, aunque no menos importante. Y cuando las plataformas aplican mecanismos automatizados, como filtros o etiquetas, para remover contenido supuestamente malicioso, a menudo terminan afectando todo tipo de contenido legítimo, mientras el contenido dañino y quienes lo producen aprenden rápidamente a sortear estos filtros preventivos.
Entonces, ¿cómo deberíamos actuar para sostener mejores conversaciones en línea sin afectar indebidamente los discursos de las personas? ¿Puede realmente la tecnología ayudarnos a hacerlo, o es una causa perdida? Según la periodista estadounidense Susan Benesch, los discursos maliciosos que circulan en línea no son despreciables, ya que tienen el potencial de influir en las personas. Dado que las personas quieren pertenecer, ser reconocidas y actuar de acuerdo con aquello que perciben como aceptable, cuando el odio, el racismo, la xenofobia, la misoginia, el negacionismo climático u otras narrativas perniciosas aparecen como normales y no disputadas, pueden convertirse en parte del entorno social, tanto en línea como fuera de ella.
Desde esa perspectiva, el contradiscurso emerge como una acción política cuando busca, de manera activa, limitar los discursos perniciosos, no necesariamente a través de convencer al interlocutor, sino que dirigiéndose a una audiencia más amplia: a quienes están leyendo, mirando, dudando o decidiendo, silenciosamente, qué tipo de discurso es aceptable o no es su comunidad. Esto es importante si consideramos cómo el comportamiento de las personas puede estar influenciado por las interacciones sociales que ocurren a su alrededor, aunque sea en los entornos digitales. Al hacer el disenso visible y posible, al expresar solidaridad con los grupos afectados o al reafirmar las normas de buena convivencia en el debate online, el contradiscurso le habla a una audiencia más amplia diciendo que las narrativas de odio no puede quedarse sin respuesta y que el silencio no puede interpretarse como una aprobación. Elisabeth Noelle-Neumann ya había desarrollado una idea relacionada en La espiral del silencio. Una teoría de la opinión pública (1974).
Pero para que el contradiscurso online sea efectivo, no puede depender únicamente de esfuerzos individuales. Requiere una infraestructura social y técnica que lo haga posible y sostenible: reglas, herramientas, formas de confianza y, sobre todo, personas comprometidas y coordinadas.
El movimiento Wikimedia, el que está detrás de la enciclopedia virtual más grande del mundo, Wikipedia, es un buen ejemplo de esa fuerza de trabajo humana unida. Si bien no es, en estricto rigor, una iniciativa de contradiscurso, Wikimedia y sus comunidades pueden funcionar como una infraestructura para la participación cívica en favor del contenido y el conocimiento en los entornos digitales, especialmente en áreas donde solía haber consenso social, como el cambio climático, la violencia de género, los derechos de los pueblos originarios o las vacunas, pero que hoy están siendo cuestionadas por ciertos grupos. Los voluntarios de Wikimedia no responderán a estas narrativas con opiniones, propaganda, o respuestas partidistas como en otros esfuerzos de contradiscurso, pero responderán construyendo conocimiento producido de manera colectiva, abierta y verificable.
Pero es importante mencionar que el gran aporte que hace Wikimedia a mejorar el debate público va más allá que solo crear información de calidad; Wikimedia ha creado un sistema técnico y particularmente social donde la información que se produce es discutida, revisada, protegida y mejorada por sus propias comunidades. A través de los años, los voluntarios de Wikimedia han creado una gobernanza que les permite proteger la calidad e integridad del contenido de ataques y ediciones perniciosas, sesgadas, sin fuentes o abiertamente falsas. Esta estructura no es perfecta, pero es colectiva, participativa, transparente y adaptable; se ha construido a través de la práctica, el disenso, la discusión y la experiencia durante un cuarto de siglo.
Las amenazas al debate democrático que recibe Wikimedia y sus plataformas no son las mismas que las que ocurren en los medios sociales, ya que las plataformas Wikimedia son mucho más restringidas en cuanto a las interacciones allí permitidas. Pero cuando han habido acciones perniciosas, como vandalismo, manipulación coordinada, ediciones sesgadas, desinformación, acoso, o intentos de borrar ciertos tipos de contenido, el modelo Wikimedia se ha mostrado lo suficientemente robusto y que las comunidades pueden rápidamente identificar esos casos y neutralizarlos.
Esta es una lección valiosa para otras plataformas y para la legislación que busca regular los discursos perniciosos online a través de sistemas automatizados que identifican contenido para borrados instantáneos. Los filtros automáticos pueden ayudar, especialmente en situaciones donde los derechos de las personas están siendo directamente violados. Pero en casos menos nítidos, estos no deberían reemplazar el juicio y criterio humanos, ni la capacidad de las comunidades de coordinar respuestas democráticas y abiertas al diálogo, frente a narrativas que no lo son.
Esto no significa que los métodos automatizados son inútiles. Las herramientas de IA, por ejemplo, pueden aumentar la capacidad de detectar patrones, identificar comportamientos coordinados de parte de usuarios, traducir contenidos, o taggear (etiquetar) casos urgentes o evidentes violaciones de derechos. Pero el contenido pernicioso se trata rara vez de sólo malas palabras o ataques explícitos. Muchas veces depende de la ironía, del lenguaje codificado, y de su audiencia. Los sistemas automatizados tienden a aplicar reglas de manera mecánica y al hacerlo pueden omitir un montón de detalles, acallar discursos legítimos, o reproducir las mismas desigualdades que se supone deberían contrarrestar.
Un diálogo productivo sobre las problemáticas sociales no es sólo un tema de producir argumentos coherentes o de intercambiar información. Se trata de juicios, criterios, responsabilidades, experiencias situadas, confianza, vulnerabilidad, y la voluntad de ser influenciado por otros. Estas cualidades son difíciles de automatizar porque dependen del hecho de que las personas están situadas en diferentes contextos, sociales, culturales y éticos. Las personas tienen un lugar de enunciación, de la misma forma que una comunidad está cruzada de códigos y memorias que les son propios. Un editor voluntario, que pertenece a una comunidad como Wikimedia, tiene y respeta sus códigos, reglas, a los otros editores, a los lectores, porque es parte de esa comunidad. Un sistema automatizado puede generar un lenguaje, pero no participa de sus reglas de la misma forma.
Según el ethos del movimiento Wikimedia: el diálogo bien argumentado no es sólo una forma de encontrar soluciones colectivas sino una herramienta democrática para desarticular los discursos perniciosos en línea. Esto es posible porque el modelo de Wikimedia se basa sobre la verificabilidad, la edición colectiva, la discusión transparente, la gobernanza comunitaria, y el compromiso de sus miembros con el conocimiento abierto. En ese sentido, Wikimedia muestra que el “contradiscurso” no funciona con la misma fuerza cuando es un acto individual; éste puede llegar a ser mucho más poderoso cuando se sostiene en prácticas institucionales y comunitarias, con compromisos personales pero también colectivos.
Así, en el marco de una nueva conmemoración del Día Internacional para Contrarrestar el Discurso de Odio, Wikimedia ofrece una modesta pero poderosa lección: si las grandes plataformas, los gobiernos y los actores políticos quieren limitar los discursos dañinos en Internet de una forma democrática, deberían también centrarse en construir estructuras instituciones y humanas que hagan que el contradiscurso se mantenga y sea sostenible. Y el mundo Wikimedia estará feliz de ayudar en ese proceso.
Sobre la autora:
Patricia Díaz Rubio
Directora ejecutiva de Wikimedia Chile
Comunicadora social y periodista (UCH), con estudios en patrimonio cultural (USACH). Tiene un magíster en Comunicación política local (U. de Orléans) y un magíster en Estudios del desarrollo (IEDES Panteón-Sorbona). Cuenta con amplia experiencia en gestión y difusión en proyectos de cultura, patrimonio y memoria en formatos y lenguajes digitales. Es parte de la red Open Culture de Creative Commons.