Malasia e Indonesia han bloqueado el acceso a Grok, una herramienta de inteligencia artificial integrada en X, después de que las autoridades afirmaran que se estaba utilizando para generar imágenes deepfake dañinas. Funcionarios de ambos países afirmaron que se tomaron medidas para limitar la difusión de contenido no consensuado y sexualizado creado con la herramienta.
En Indonesia, el Ministerio de Comunicación e Informática dijo que Grok fue suspendida tras determinarse que era capaz de producir imágenes manipuladas que violan las leyes nacionales y las normas sociales. El ministerio señaló que las normativas existentes permiten a las autoridades restringir los servicios digitales que permiten la distribución de contenido prohibido, incluido material que perjudique a individuos o socava el orden público. Las autoridades dijeron que el bloqueo permanecerá hasta que se refuercen las salvaguardas.
El regulador de comunicaciones de Malasia tomó medidas similares, citando preocupaciones de que las funciones de generación de imágenes de Grok pudieran ser mal utilizadas para crear deepfakes sin controles adecuados. El regulador afirmó que la plataforma no demostró medidas técnicas suficientes para prevenir abusos y que dependió demasiado de la notificación de usuarios en lugar de una moderación proactiva. El acceso a la herramienta se restringió mientras las autoridades evaluaban el cumplimiento del contenido local y las normas de seguridad.
Grok es desarrollado por xAI, que está vinculado a X mediante la propiedad común. La herramienta ganó atención después de que los usuarios demostraran su capacidad para generar imágenes alteradas y sexualizadas a partir de prompts de texto. Los críticos afirmaron que tales capacidades suponen riesgos para la privacidad y la seguridad personal, especialmente para mujeres y niños.
Ambos gobiernos afirmaron que las restricciones son preventivas y se centran en la protección de los usuarios. Funcionarios indonesios dijeron que han solicitado aclaraciones a X y xAI sobre cómo se está utilizando la herramienta localmente y qué medidas existen para prevenir el mal uso. Las autoridades malasyas afirmaron que el acceso podría restablecerse si los operadores demuestran controles efectivos que cumplan con los estándares regulatorios.
Estos bloqueos suponen las primeras restricciones nacionales conocidas a Grok vinculadas específicamente a preocupaciones sobre el deepfake. Estas medidas siguen a un escrutinio internacional más amplio sobre las herramientas de inteligencia artificial generativa y su potencial para crear contenido dañino o engañoso. Reguladores en varios países han afirmado que las leyes existentes podrían aplicarse a los sistemas de IA si permiten material ilegal o dañino.
xAI ha limitado anteriormente algunas funciones de generación de imágenes y ajustado la configuración de acceso tras críticas. Las autoridades de Malasia e Indonesia indicaron que serán necesarios más cambios técnicos y de política antes de que el servicio pueda reanudar su funcionamiento normal.