Una organización en Brasil ha expresado que es urgente regular los casos de violencia de género en el país. En noviembre de 2023, en Río de Janeiro, algunos padres denunciaron que adolescentes usaban inteligencia artificial (IA) para crear y difundir imágenes desnudas de sus compañeras. En septiembre de 2024, en Bahía, se reportó otro caso similar donde se sospechaba que un grupo de adolescentes estaba haciendo lo mismo, usando IA para crearlas. En Mato Grosso, varios alumnos fueron expulsados por compartir imágenes generadas por IA de su profesor y compañeros en redes sociales pornográficas.
Estos casos han sido publicados en medios brasileños y mencionados en un documento del centro de investigación Internetlab. Este documento trata sobre cómo enfrentar la violencia virtual contra mujeres y niñas en Brasil, recomendando que se propongan debates normativos. Según el Foro Brasileño de Seguridad Pública, en 2025 hubo 1568 femicidios, un aumento del 4,7% en comparación con el año anterior, la cifra más alta desde que se aprobó la ley que define este delito.
El aumento de los casos de violencia de género ha llevado a protestas en 2025. La cantidad de contenido misógino en línea está alimentando esta violencia. Clarice Tavares, de Internetlab, comentó que la violencia en línea y fuera de línea forma parte de la misma cultura misógina, que coexiste y se afecta mutuamente. Tavares resaltó que necesitamos políticas públicas para abordar estos problemas considerando sus contextos específicos.
Tavares también mencionó que los datos que utilizan las plataformas de IA pueden tener sesgos que influyen en sus resultados. El informe de Internetlab señala los riesgos de los “deepfakes” de contenido sexual no consentido, argumentando que deberían clasificarse como un «riesgo excesivo» y que estas tecnologías afectan de manera desproporcionada a mujeres y niñas. Un estudio mostró que el 98% de todos los deepfakes sexuales en línea tienen como objetivo a mujeres.
Sobre la legislación en Brasil, ha habido avances en la protección de derechos en internet, pero en 2025, el Supremo Tribunal Federal declaró parcialmente inconstitucional parte de una ley que regulaba la responsabilidad de las plataformas por contenidos de terceros. La mayoría de los jueces pensaron que la norma no protegía adecuadamente los derechos fundamentales.
Tavares indicó que hay que adaptar esta sentencia a las leyes de violencia de género. Internetlab sugiere crear pautas educativas sobre alfabetización digital, para que las personas puedan analizar críticamente el funcionamiento de las plataformas de IA. También proponen que las plataformas adopten medidas de seguridad que eviten la creación y difusión de contenidos dañinos para mujeres y niñas.
Mientras Brasil se aproxima a la temporada electoral, se deben considerar nuevos aspectos de la violencia política de género. La IA podría convertirse en una herramienta que reproduzca estos sesgos de violencia. Es esencial entender el impacto que esto tendrá en el futuro para proteger a los ciudadanos.
Discussion questions
- ¿Qué papel crees que juega la educación en la prevención de la violencia de género, tanto en línea como fuera de línea?
- ¿Cómo pueden las políticas públicas abordar el uso de la inteligencia artificial en la creación y difusión de contenido dañino?
- ¿De qué manera la cultura misógina se manifiesta en la vida diaria y qué estrategias podrían implementarse para combatirla?
- ¿Cómo pueden los sesgos en los datos de las plataformas de IA afectar a las mujeres y niñas en particular, y qué pasos pueden tomarse para mitigar este problema?
- En el contexto de la proximidad de las elecciones, ¿qué medidas deberían tomar los candidatos para abordar la violencia política de género y el impacto de la inteligencia artificial en este fenómeno?
