El año pasado se denunciaron 85 millones de imágenes y vídeos de abusos sexuales a menores en todo el mundo aunque hay muchos más que se quedan sin denunciar y que siguen compartiéndose a una escala masiva en la red. Un problema que se ha visto agravado durante la pandemia de covid19 y al que la Comisión Europea propone poner coto con nueva legislación que obligará a los operadores de internet a detectar, notificar, eliminar y denunciar el material de abuso sexual infantil de sus servicios. El plan también incluye la creación de un nuevo centro europeo sobre abuso infantil que tendrá su sede en la agencia Europol y que dará cobertura a los gobiernos europeos.

Actualmente, algunos proveedores utilizan voluntariamente la tecnología para detectar, denunciar y eliminar el material de abuso sexual infantil en sus servicios. Las medidas adoptadas, sin embargo, varían mucho y la situación es insuficiente a ojos de Bruselas. "Se necesitan normas claras, con condiciones y salvaguardias sólidas", advierte la Comisión Europea en su propuesta. “Es una necesidad urgente para evitar que se compartan imágenes y vídeos de abusos sexuales a menores, lo que vuelve a traumatizar a las víctimas a menudo años después de que los abusos sexuales hayan terminado”, alega la comisaria de interior, Ylva Johansson. Según un análisis de Europol, en los primeros meses de la pandemia la demanda de material pedófilo aumento un 25% en algunos Estados miembros.

Con el nuevo reglamento propuesto por el Ejecutivo comunitario, que ahora deberá ser negociado por Consejo y Parlamento Europeo, proveedores en línea que ofrecen servicios en la UE como Google o Apple o gigantes dedicados a la comunicación interpersonal como WhatsApp o Snapchat tendrán que realizar evaluaciones de riesgo para detectar si sus servicios se utilizan indebidamente para difundir material de abuso sexual infantil -fotos y videos que previamente se han identificado como material de abuso sexual o material nuevo- o para la captación de niños, lo que se conoce como ‘grooming’ a través de plataformas de juegos o chats. Si este análisis determina que existe un riesgo el objetivo tendrán que proponer medidas para mitigarlo. “Los proveedores de servicios son los primeros actores con la posibilidad de contrarrestar esta crisis”, alega Bruselas.

Agencia de la UE contra los abusos

Los Estados miembros, por su parte, tendrán que designar autoridades nacionales responsables de la revisión de la evaluación. Si concluyen que sigue existiendo un “riesgo significativo” tendrán potestad para solicitar a un tribunal que emita una orden para detectar contenido de abuso sexual aunque las órdenes de detección estarán limitadas en el tiempo y se dirigirán a un tipo específico de contenido en un servicio concreto. Las empresas que hayan recibido una orden de detección solo podrán detectar contenidos utilizando indicadores de abuso sexual infantil verificados y facilitados por el nuevo centro de la UE, que tendrá su sede al igual que Europol en La Haya. 

Además, tendrán que utilizar tecnologías que sean lo menos intrusivas posibles para la privacidad y limitar al máximo la tasa de error de los falsos positivos. “Lo que los servicios podrán hacer estará muy delimitado con fuertes salvaguardias. Sólo estamos hablando de un programa que escanea en busca de marcadores de contenido ilegal de la misma manera que los programas de ciberseguridad realizan comprobaciones constantes para detectar fallos de seguridad”, defiende el vicepresidente de la Comisión, Margaritis Schinas.

Los operadores que detecten abusos tendrán que denunciarlo al centro de la UE que ejercerá de enlace con los Veintisiete y verificará las denuncias de posibles abusos antes de compartirlas con las autoridades policiales y Europol. Las autoridades nacionales podrán a su vez dictar órdenes de retirada si el material de abuso sexual infantil no se retira rápidamente. También podrán exigir que deshabiliten el acceso a las imágenes y vídeos que no puedan retirarse, por ejemplo, por estar alojados fuera de la UE en jurisdicciones no cooperativas. En cuanto a las medidas para reducir la captación de menores, las normas exigen que las tiendas de aplicaciones garanticen que los niños no puedan descargar aplicaciones que puedan exponerlos a un riesgo elevado. Junto a la propuesta legislativa, Bruselas ha presentado una nueva estrategia para mejorar el acceso al entorno digital de los menores y que acceder a internet sea más seguro.