El gobierno del Reino Unido está revisando posibles acciones regulatorias contra la red social X tras informes de que su herramienta integrada de inteligencia artificial, Grok, se ha utilizado para generar imágenes sexualizadas. Los funcionarios indicaron que la revisión se centra en si la plataforma cumple con los requisitos de seguridad en línea del Reino Unido tras surgir preocupaciones sobre la creación y el intercambio de imágenes no consensuadas y manipuladas.
El problema se centra en las funciones de generación de imágenes de Grok, que permiten a los usuarios crear o modificar imágenes basándose en indicaciones de texto. Informes citados por funcionarios británicos indican que la herramienta se ha utilizado para producir representaciones sexualizadas de individuos sin consentimiento, incluidas imágenes que involucran a menores. Representantes gubernamentales afirmaron que dicho material podría infringir la legislación británica y suponer riesgos significativos para la seguridad en línea.
Grok está desarrollado por xAI, que es propiedad de la empresa matriz de X. En respuesta a las críticas, X limitó algunas de las funciones de generación y edición de imágenes de Grok a suscriptores de pago. Funcionarios británicos afirmaron que este cambio no aborda las preocupaciones subyacentes sobre la aparición de contenido dañino en la plataforma.
El regulador británico de comunicaciones Ofcom ha contactado con X como parte de sus responsabilidades de supervisión. Según el marco de seguridad en línea del Reino Unido, las plataformas están obligadas a prevenir la difusión de contenido ilegal y dañino y a actuar con rapidez cuando aparezca dicho material. Ofcom tiene la autoridad para imponer multas u otras medidas de cumplimiento si las empresas no cumplen con estas obligaciones.
Fuentes gubernamentales indicaron que todas las opciones regulatorias siguen en consideración, incluidas las restricciones al acceso a la plataforma si no se resuelven los problemas de cumplimiento. No se ha anunciado ninguna decisión y los responsables han dicho que las conversaciones con la empresa continúan.
La situación ha impulsado la acción en otros países. Las autoridades de Malasia e Indonesia ya han restringido el acceso a Grok, citando preocupaciones sobre imágenes sexuales no consensuadas y daños digitales. Estas medidas han aumentado el escrutinio internacional de las herramientas de IA que pueden usarse para generar contenido explícito.
Funcionarios británicos señalaron que el caso pone de manifiesto los desafíos más amplios en la regulación de la inteligencia artificial generativa. Subrayaron que se espera que las empresas tecnológicas garanticen que las nuevas herramientas se desplieguen de forma responsable y conforme a las leyes nacionales diseñadas para proteger a los usuarios, especialmente a los niños. Los siguientes pasos dependerán del resultado de las evaluaciones regulatorias y de la respuesta de X a las solicitudes de aplicación.