Gobierno de Sheinbaum prepara decreto para obligar a redes sociales a retirar mensajes de odio
Sheinbaum presenta un decreto para obligar a plataformas digitales a retirar contenidos de odio y violencia y reportarlos a las autoridades.
Por Mario Victorino
El gobierno de la presidenta Claudia Sheinbaum presentó un proyecto de decreto para obligar a las plataformas digitales a retirar contenidos que promuevan la violencia, el odio, el extremismo violento y distintas formas de abuso, con el objetivo de proteger a niñas, niños y adolescentes en los entornos digitales.
La propuesta contempla que las empresas tecnológicas también deban reportar ante la Secretaría de Seguridad y Protección Ciudadana (SSPC) y la Guardia Nacional los casos en los que detecten contenidos de esta naturaleza. Por ahora, el gobierno federal no plantea incorporar sanciones para las plataformas que incumplan las obligaciones previstas en el proyecto.
Durante la presentación de la iniciativa, Sheinbaum sostuvo que las plataformas deben asumir una mayor responsabilidad frente a las publicaciones que circulan en sus servicios, especialmente cuando puedan representar un riesgo para menores de edad. La mandataria argumentó que impedir la difusión de abusos sexuales y contenidos que inciten a la violencia constituye un objetivo de protección para la sociedad.
La propuesta abre una nueva etapa en la discusión sobre la responsabilidad de las empresas tecnológicas en México, el combate a la violencia digital y los límites que deben establecerse para evitar que la regulación de contenidos afecte la libertad de expresión.
¿Qué contenidos deberán retirar las plataformas digitales?
El proyecto de decreto plantea que las plataformas digitales identifiquen y retiren contenidos relacionados con distintas expresiones de violencia y conductas que puedan poner en riesgo a niñas, niños y adolescentes.
Entre las categorías contempladas se encuentran los mensajes que inciten a la violencia mediante discursos de odio o expresiones de extremismo violento, así como materiales relacionados con abuso, explotación y violencia sexual.
La propuesta también incluye contenidos que promuevan el suicidio, las autolesiones deliberadas y los trastornos alimenticios. El objetivo es establecer obligaciones para que las empresas actúen cuando detecten publicaciones que encajen en los supuestos previstos por el decreto.
El alcance de estas disposiciones dependerá de la redacción definitiva del documento, de las definiciones que establezca y de los procedimientos que se determinen para identificar, retirar y reportar las publicaciones.
Sheinbaum descarta sanciones por ahora
Uno de los aspectos destacados de la propuesta es que, por el momento, el gobierno federal no contempla establecer sanciones para las plataformas digitales que incumplan las obligaciones planteadas.
Sheinbaum defendió la necesidad de avanzar en la eliminación de contenidos violentos y de abuso, y señaló que la intención inicial es que las empresas asuman la responsabilidad de evitar su difusión y colaboren con las autoridades cuando encuentren publicaciones que representen un riesgo.
La ausencia de sanciones previstas en esta etapa abre interrogantes sobre los mecanismos que permitirían verificar el cumplimiento de las obligaciones, los plazos para retirar los materiales y las consecuencias que podrían enfrentar las empresas si no actúan.
También será relevante conocer cómo se determinará cuándo una publicación constituye una incitación a la violencia o una expresión de odio, así como los procedimientos para revisar decisiones de moderación que pudieran afectar contenidos legítimos.
Plataformas deberán reportar casos a Seguridad y a la Guardia Nacional
Además de retirar publicaciones, las plataformas deberán reportar ante la SSPC y la Guardia Nacional los contenidos violentos que identifiquen, conforme a las obligaciones que finalmente establezca el decreto.
La medida busca reforzar la coordinación entre las empresas tecnológicas y las autoridades para detectar situaciones de riesgo y facilitar una respuesta ante posibles amenazas o conductas delictivas.
El proyecto se vincula con una estrategia gubernamental de prevención de la violencia en entornos escolares y digitales. La administración federal ha planteado que las plataformas tienen una responsabilidad en la detección de mensajes, interacciones y publicaciones que puedan fomentar agresiones, abuso o acoso.
Sin embargo, el funcionamiento de este mecanismo dependerá de las reglas que se definan para los reportes, la información que deberán proporcionar las empresas y los criterios que utilizarán las autoridades para determinar si corresponde iniciar alguna actuación.
La violencia escolar impulsó la propuesta
La iniciativa se presentó después de recientes episodios de violencia registrados en planteles educativos, que llevaron al gobierno federal a plantear medidas para prevenir conductas agresivas entre jóvenes y adolescentes.
El 2 de octubre, Sheinbaum anunció la creación de un grupo de trabajo coordinado por la Consejería Jurídica del Ejecutivo Federal, con participación de dependencias como la SSPC, la Secretaría de Educación Pública, el Centro Nacional de Inteligencia y la Agencia de Transformación Digital y Telecomunicaciones, además de especialistas e instituciones académicas.
El grupo recibió la encomienda de preparar un instrumento jurídico que estableciera obligaciones para detectar, reportar y retirar oportunamente contenidos que inciten directamente a la violencia.
La estrategia también contempla acciones de prevención, como el fortalecimiento del programa ABC de las emociones, la participación de las familias y la detección temprana de situaciones de riesgo entre estudiantes.
Aunque el gobierno ha señalado posibles vínculos entre algunos episodios de violencia escolar y la circulación de contenidos en plataformas digitales, la relación entre publicaciones específicas y cada agresión debe establecerse con evidencia, sin asumir que las redes sociales son por sí solas la causa de estos hechos.
El reto: proteger a menores sin abrir la puerta a la censura
La propuesta plantea un desafío para las autoridades y las empresas tecnológicas: establecer reglas eficaces contra la incitación a la violencia y los materiales de abuso sin permitir que conceptos ambiguos se utilicen para retirar publicaciones legítimas.
Para que las nuevas obligaciones tengan claridad jurídica, será importante precisar qué contenidos deben eliminarse, cómo se evaluarán los casos dudosos y qué mecanismos tendrán los usuarios para cuestionar una decisión de moderación.
También será necesario definir los procedimientos para reportar posibles delitos, proteger los datos personales y evitar que la información compartida con las autoridades se utilice fuera de los fines establecidos.
El gobierno ha señalado que la regulación debe delimitar claramente los contenidos prohibidos para no derivar en censura. La publicación definitiva del decreto permitirá conocer cómo se traducirá ese objetivo en obligaciones concretas para las plataformas.
Por ahora, el proyecto representa un nuevo paso en el intento de regular la responsabilidad de las empresas digitales en México. Su alcance real dependerá de la versión final del instrumento, los mecanismos de supervisión y la forma en que se apliquen las reglas.