Uno de los grandes focos de preocupación en el ecosistema social media es la presencia de contenidos ofensivos, discriminatorios o violentos que se dirigen a distintos colectivos. La diversidad de formas de manifestación hacen complicado su legislación y también control, argumentando además que medidas para limitarlo pueden llevar a coartar la Libertad de expresión o la censura. Es necesario un ejercicio de responsabilidad que limite la visibilidad de estos mensajes y conocer mecanismos de protección para los usuarios afectados por un problema que hunde sus raíces en cuestiones que van más allá del desarrollo tecnológico.

1. Discursosdelodioen
lared(contextoy
clavespara
combatirlos)
Dolors Reig Hernández (@dreig)
Professora col.laboradora
Màster Universitario Social Media - Estudis de Ciències de la Informació i de la Comunicació
Psicologia Social, El caparazón.
LinkedIn / Instagram Reels / Twitter /
Youtube

2. Dequéestamos
hablando
▪ El discurso de odio (en inglés: hate speech)? es la
acción comunicativa que tiene como objetivo promover
y alimentar un dogma, cargado de connotaciones
discriminatorias,que atenta contra la dignidad de un
grupo de individuos. Dicho discurso es propagado
con intención maligna (aumentar votos, ingresos…
poder político o económico) (añadiría, popularidad
en redes, etc.)
es.wikipedia.org/wiki/Discurso_de_odio

3. Colectivosmás
afectados
▪ Este último año, la mayor parte de incidentes tienen
un origen ideológico (34,9%); seguido de hechos
vinculados al racismo y la xenofobia (30,2%), de la
orientación sexual o la identidad de género (16,3%).
En menor medida, menos del 4,5%, se producen delitos
de discriminación por sexo o género, asociados a
creencias religiosas, discapacidad,por razón de
enfermedad, aporofobia, antigitanismo o antisemitismo.
Teniendo en cuenta la tipología delictiva, la mayor
parte se debe a amenazas (20,5%).
Datos Ministerio del Interior 2022

4. Prejuiciobasado
enmiedos,
ignorancia…
“la gente se ríe (u odia, desprecia, difama), de lo que no entiende (de lo que teme)”

5. Enredes…
▪ En España, los datos del Ministerio del
Interior muestran que en los últimos años se ha
generado una evolución anual ascendente en el
número de hechos conocidos de delitos de odio,
incluyendo el discurso de odio en la red
▪ Desde mayo de 2020, el En el periodo comprendido
entre el 1 de noviembre y el 31 de diciembre de 2022,
las plataformas han retirado el 37% de los contenidos
notificados.
OBERAXE 2022

6. Por
plataformas…
OBERAXE 2022

7. MOTIVOS
psicosociales:
Caldodecultivo
enlared
▪ El anonimato y la “distancia emocional”, derivada de la lejanía física
entre el emisor y los aludidos, reducen la empatía y la sensación de
peligro.
▪ Presencia de comunidades que fomentan y aplauden estos
discursos.“Echo chambers”, burbujas informativas, cámaras de eco.
▪ Percepción de estar actuando en un espacio virtual, que genera la
sensación de que el contexto no es real (Cabo Isasi, A. y Juanatey, A.,
2016). Evasión de la responsabilidad.
▪ Efecto espiral hacia la transgresión: «las redes sociales generan una
especie de efecto espiral fruto de la saturación por el que uno debe
ser cada vez más transgresor para generar la misma atención”
(Lazueza, F., en Formatjé N.B., 2020)

8. CONSECUENCIAS
PERSONALES
▪ En una encuesta a 1.400 jóvenes entre 14 y
24 años, un 34% afirma haber sufrido
algún tipo de maltrato por Internet o
redes sociales (“bromas personales que
no gustan, actos de exclusión, insultos,
amenazas...”), un 9,2% reconoce haber
sido él o ella la persona que ha ejercido tal
tipo de maltrato. (FAD, 2020)
▪ DEPRESIÓNY SUICIDIO INFANTIL –
ADOLESCENTE: “El 8,8% de los
adolescentes catalanes asegura, en un
estudio reciente del Departament de
Educación y el de Salud de la Generalitat,
tener ganas de morirse o de dormirse y no
volver a despertar.”
PALABRAS QUE MATAN

9. Consecuencias
psicosociales:
Indefensión
aprendida
▪ Según los datos de la Agencia de Derechos
Fundamentales de la Unión Europea (FRA), casi el 80%
de los casos no se denuncia, porque las víctimas no
quieren, no se atreven o no saben que se puede hacer.
El desconocimiento de la Ley, el temor a represalias,la
vergüenza o la falta de confianza en los cuerpos de
seguridad influyen en esta carencia de denuncias.
▪ Los jóvenes musulmanes consideran los mensajes
islamófobos dirigidos contra ellos como una parte más
de su vida. (Burgos, 2017)
▪ “Los individuos asociados a estos grupos suelen actuar
en las redes de manera colectiva, lo que provoca una
mayor sensación de acoso a las víctimas de sus
ataques” (Cabo Isasi, A y Juanatery, A., 2016).

10. Ysociales
▪ Divide y vencerás: P ej. el
genocidio en Ruanda (1994)
se forjó mediante el discurso
de odio, provocando el
fratricidio entre los hutis y
tutsis, un “conflicto étnico”
agravado e
instrumentalizado para
ocultar los intereses de
potencias buscando recursos
minerales .
PALABRAS QUE MATAN ▪ Aumento de la
violencia hacia
minorías como tiroteos
masivos,
linchamientos,
limpieza étnica,etc.

11. “Aunque no todas las actitudes o actos prejuiciados llevan al
genocidio, cada genocidio se ha alimentado de la aceptación
de las actitudes y acciones descritas en los niveles bajos de la
pirámide. ”

12. Frenarla
evolución
El objetivo del discurso de odio sexista es humillar u
objetivar a las mujeres, subestimar sus habilidades
y opiniones, destruir su reputación, hacerlas sentir
vulnerables y temerosas, y controlarlas y
castigarlas por no seguir un determinado
comportamiento. El discurso de odio sexista tiene el
efecto de silenciar a las mujeres. (Burgos,2017).
En el caso LGBTI+ buscan denigrar, estigmatizar,
discriminar o poner en evidencia, haciendo un claro
énfasis en la supuesta superioridad de los valores,
creencias y la identidad heteronormativa (Burgos,2017),
en detrimento de la diversidad afectivo y sexual.

13. ¿QUIENES?
Ausenciade
éticapolítica
▪ Los discursos racistas en redes, provenientes de
personajes públicos, han aumentado en los últimos
años. Esto se debe al aumento de partidos de
ultraderecha en el esquema político mundial.
Dirigentes o portavoces de partidos políticos como
Donald Trump -EUA-, Mateo Salvini -Italia-, Marine Le
Pen -Francia-, Jair Bolsonaro -Brasil- o Santiago Abascal
-España- han empleado sus perfiles en redes sociales -
como Twitter- para divulgar mensajes de estas
características (Arabi Hassan, 2019).

14. Losdiscursos de
odio aprovechan
vulnerabilidades
humanas
▪ Autoridad: Milgram (cuando se delega la
responsabilidad,obedecemos hasta casi matar)
▪ Debilidad emocional, desahogo.
▪ Exculpación, chivo expiatorio o cabeza de turco: una
persona o grupos de personas como los culpables de
algún tipo de suceso social o económico
independientemente de su inocencia. ”DISCURSOS DE
LA OTREDAD”
Ej. nacismo

15. ▪ Mensajes directos, sencillos,
gráficos, emocionales, para
despertar el miedo en la
amígdala, creando
un aprendizaje emocional
intensificado y difícil de
erradicar y el odio como
mecanismo defensa.
▪ Aportan “Soluciones”
▪ O en su defecto “héroes” que
podrán salvarnos.
“Validación social” (si todo el mundo lo
sigue o lo comparte por algo será),
“simpatía” (este tipo me cae bien, seguro
que es cierto), o “autoridad profesional o
pública” (si lo dice alguien que se dedica a
esto, por algo será).

16. Información
distorsionadao
directamente
FALSA
Muy frecuente contra los animales…
en el nombre de la “ciencia”

17. Hacenusodelos
sesgoscognitivos,
economía enel
procesamiento de
lainformación
▪ Sesgo de falsa dicotomía: Marc Home, alumno Màster:
“Como voy a ser machista si tengo hijas” ;)
▪ Burbujas informativas (sesgo de confirmación)
▪ Efecto de arrastre (sesgo de deseabilidad social): Las
personas tienden a adherirse a lo que perciben como
la opinión mayoritaria.
▪ Emocionalidad: Las personas tienden a racionalizar
sus emociones. La emoción viene primero, luego se
justifica.

18. Saberlo espoder
combatirlo:
educación
▪ Teoría inoculación.

19. Algoritmos delo
“popular” o
interesados. NO
VISUALIZAR,
DENUNCIAR
▪ Algoritmos de “siguiente
video” o similares buscan
el “engagement” a toda
costa, con contenidos
llamativos (conspiranoicos,
falsos, etc):“YouTube may
be one of the most powerful
radicalizing instruments of
the 21st century,” (Tufekci,
2018).
▪ Denuncia directa o vía
Trusted Flaggers.

20. Don´t feedthe
Troll!!!!!!
(recordar elsesgo
algorítmico)
Infoactivismo, 2021

21. Ysi
respondemos…
▪ Contesta al argumento, no a la persona
(debilitar sesgos + no darles más
notoriedad a las personas).
▪ Responder a conciencia, de manera
profunda, no tanto para convencerles a
ellos, sino para exponer la carga
discriminatoria a las otras personas
que estén siendo testigos del
intercambio.
▪ Premiar (like) las réplicas.

22. ▪ Generar contranarrativas en las redes
sociales y un debate público para la
transformación social.
▪ Fomentar la sensibilización ciudadana
mediante campañas contra el extremismo:
-Facebook en 2016: «The Online Civil Courage
Initiative» persigue desarrollar acciones y
campañas que fomenten un debate positivo desde
el que afrontar el extremismo y los mensajes de
odio (Martínez, S., 2020)
-Campaña Unión europea: «No Hate Speech
Movement» con la intención de luchar contra el
discurso del odio y promover la tolerancia y los
derechos humanos.
Trashtubing vs. Goldtubing: el Youtube que
queremos - YouTube

23. Recursos
específicos
No More Haters
Bad News - Play the fake news game! (getbadnews.com)

24. Legislarbien…
▪ La libertad de expresión es un derecho fundamental,
pero ha de ser limitado para evitar que se atente contra
la dignidad humana, la igualdad,la paz y la convivencia
social y el derecho a vivir sin acoso e intimidación. En
Estados Unidos los proveedores de servicios están
prácticamente exentos de responsabilidad por los
contenidos publicados, mientras que en Europa “solo
serán responsables si no retiran o impiden el acceso a
un contenido ilícito con prontitud (24 horas), sabiendo
su ilicitud por medio de una notificación del titular de
los derechos o de una orden de un órgano competente.
Revisiones posteriores cifran en ¾ el cumplimiento.

25. Exigir
responsabilidad a
lasplataformas…
▪ Las reglas de FB se aplican de forma inconsistente o
arbitraria. Se dedican pocos recursos humanos (Fb dice
que 15.000) y se favorece a las élites y gobiernos, no a
activistas o minorías raciales (ProPublica).
▪ IA no funciona igual si no es en inglés.Tampoco hay
demasiados moderadores más allá de los idiomas
mayoritarios.

26. Referencias–
Lecturasde
interés
▪ Arabi Hassan (2019); El discurso xenófobo en el ámbito político y su impacto social. Disponible en
www.scielo.org.co. Recuperado 23 de marzo 2023
▪ Bustos Martínez, Laura; De Santiago Ortega, Pedro Pablo; Martínez Miró, Miguel Ángel; Rengifo
Hidalgo, Miriam Sofía, (2019): Discursos de odio: una epidemia que se propaga en la red. Estado de
la cuestión sobre el racismo y la xenofobia en las redes. Universidad Complutense de Madrid.
Disponible en dialnet.unirioja.es. Recuperado 23 de marzo 2023
▪ Cabo Isasi, A. y Juanatey, A. (2016): El discurso de odio en las redes sociales: un estado de la
cuestión. Ayuntamiento de Barcelona. Disponible en: http://ajuntament.barcelona.cat/bcnvsodi/wp-
content/uploads/2017/02/Informe_Discurso-del-Odio_resumen-ejectivo_ES-2.pdf. Recuperado 23
de marzo 2023
▪ Der Linden,V. S. (2023). Foolproof:Why Misinformation Infects Our Minds and How to Build Immunity.
W.W. Norton & Company.
▪ Fad. (2020, 22 julio). Jóvenes en el mundo virtual: usos,prácticas y riesgos. Centro Reina Sofía sobre
Adolescencia y Juventud. Disponible en
https://www.adolescenciayjuventud.org/publicacion/jovenes-en-el-mundo-virtual-usos-practicas-
y-riesgos/. Recuperado 23 de marzo 2023
▪ Formatjé, N. B. (2020). ¿Por qué Twitter es la red del odio? UOC (Universitat Oberta de Catalunya).
Disponible en: https://www.uoc.edu/portal/es/news/actualitat/2020/165-twitter-red-odio.html.
Recuperado 23 de marzo 2023
▪ Martínez Martínez,S (2020).: Social media’ ante el discurso del odio. COMeIN [en línea], julio 2020,
no. 101. ISSN: 1696-3296. DOI: https://doi.org/10.7238/c.n101.2056. Recuperado 23 de marzo 2023
▪ Redacción, L. (2021, 10 junio). ¿Cómo identificar discursos de odio en redes sociales y qué
herramientas utilizar para combatirlo? Infoactivismo. Disponible en: https://infoactivismo.org/como-
identificar-discursos-de-odio-en-redes-sociales-y-que-herramientas-utilizar-para-combatirlo/
Recuperado 23 de marzo 2023
▪ Tufekci, Z. (2018, 10 marzo). Opinion |YouTube, the Great Radicalizer.The NewYork
Times.Disponible en: https://www.nytimes.com/2018/03/10/opinion/sunday/youtube-politics-
radical.html Recuperado 23 de marzo 2023

27. Gracias
Dolors Reig Hernández (@dreig)
Professora col.laboradora
Màster Universitario Social Media - Estudis de Ciències de la Informació i de la Comunicació
Psicologia Social, El caparazón.
LinkedIn / Instagram Reels /
Twitter /Youtube