El regulador Ofcom publicó las primeras pautas sobre cómo las empresas tecnológicas pueden cumplir con la nueva y extensa legislación británica de seguridad en línea, la "Online Safety Act".
El documento, parte de un proceso de publicación en varias fases, detalla cómo las plataformas de redes sociales, motores de búsqueda, juegos en línea y móviles, y sitios de pornografía deben abordar el contenido ilegal, como material de abuso sexual infantil, contenido terrorista y fraude.
Directrices para el cumplimiento de la ley
Estas pautas se presentan como propuestas para que Ofcom recopile comentarios antes de la aprobación por el Parlamento del Reino Unido hacia finales del próximo año.
Aunque específicas, las regulaciones serán voluntarias; las empresas tecnológicas pueden garantizar el cumplimiento de la ley siguiendo las pautas al pie de la letra, pero también tienen libertad para abordar el problema de manera individual, siempre y cuando demuestren cumplimiento con las reglas generales de la ley.
Gill Whitehead, responsable de seguridad en línea de Ofcom, afirma que esto impone por primera vez una "obligación de cuidado" a las empresas tecnológicas para garantizar la seguridad de sus usuarios.
Cuando se detecte contenido ilegal en sus plataformas, deberán eliminarlo y realizar evaluaciones de riesgos específicos. El objetivo es que los sitios sean proactivos para detener la propagación de contenido ilegal en lugar de simplemente reaccionar después del hecho.
Alcance de las regulaciones
Se estima que alrededor de 100,000 servicios podrían estar sujetos a estas amplias regulaciones, pero solo las plataformas más grandes y de mayor riesgo deberán cumplir con los requisitos más estrictos.
Ofcom sugiere que estas plataformas implementen políticas como no permitir que desconocidos envíen mensajes directos a menores, utilizar coincidencia de hash para detectar y eliminar material de abuso sexual infantil, mantener equipos de moderación de contenido y búsqueda, y ofrecer formas para que los usuarios informen sobre contenido perjudicial.
Aunque muchas de estas prácticas ya son seguidas por las grandes plataformas, Ofcom espera ver una implementación más consistente. Las regulaciones también abarcan otras áreas, como contenido que fomente o facilite el suicidio, el acoso, la pornografía de venganza y otras formas de explotación sexual, así como la oferta de drogas y armas.
Desafíos y controversias
Las regulaciones de Ofcom también cubren la forma en que los sitios deben manejar otros daños ilegales. Por ejemplo, los servicios de búsqueda deben proporcionar "información de prevención de crisis" cuando los usuarios ingresan consultas relacionadas con el suicidio.
Además, las empresas deben realizar evaluaciones de riesgos al actualizar sus algoritmos de recomendación para garantizar que no amplifiquen contenido ilegal.
Uno de los aspectos más controversiales es la sección que permite a Ofcom exigir a las plataformas en línea el uso de "tecnología acreditada" para detectar material de abuso sexual infantil.
Sin embargo, servicios de mensajería cifrada como WhatsApp y grupos de derechos digitales argumentan que esto requeriría romper los sistemas de cifrado de las aplicaciones e invadir la privacidad del usuario.
Aunque no se destaca en la consulta actual, la inteligencia artificial también está dentro del alcance de las regulaciones. El Acta de Seguridad en Línea aborda los daños en línea de manera "tecnológicamente neutral", independientemente de cómo se hayan creado. La IA generada sería considerada en el contexto del daño específico que pueda causar.
Desafíos para plataformas menos grandes
Aunque Ofcom busca un enfoque colaborativo y proporcional, las reglas podrían resultar onerosas para sitios que no son gigantes tecnológicos. El conjunto inicial de directrices de Ofcom tiene más de 1,500 páginas, y organizaciones sin fines de lucro, como la Fundación Wikimedia, ya encuentran difícil cumplir con diferentes regímenes regulatorios en todo el mundo.
Aunque Ofcom asegura que está tratando de facilitar la operación en diferentes países, la tarea de cumplir con leyes diferentes puede seguir siendo complicada.
Las futuras actualizaciones de Ofcom abordarán temas más delicados, como el contenido legal pero perjudicial para los niños, el acceso de menores a la pornografía y protecciones para mujeres y niñas.
Además, deberán abordar la interpretación de una sección que algunos críticos afirman podría socavar el cifrado de extremo a extremo en aplicaciones de mensajería.
A medida que Ofcom completa los detalles de la Ley de Seguridad en Línea, los verdaderos desafíos pueden estar comenzando en este nuevo paisaje regulador británico.
No olvides suscribirte a nuestras redes y Newsletter
