Legisladores demócratas en el Senado de Estados Unidos han instado a Apple y Google a eliminar X y su herramienta de inteligencia artificial asociada Grok de sus tiendas de aplicaciones. Los senadores dijeron que la solicitud sigue a informes que indican que Grok ha sido utilizado para generar imágenes no consentidas y sexualizadas, incluyendo contenido que involucra a menores.
En una carta enviada a ambas compañías, los senadores señalaron que la disponibilidad continuada de X y Grok podría entrar en conflicto con las normas de las tiendas de aplicaciones que prohíben material dañino o explotador. Argumentaron que Apple y Google tienen la responsabilidad de hacer cumplir sus propias políticas cuando las aplicaciones distribuidas a través de sus plataformas están vinculadas a la creación o difusión de contenido ilegal.
La carta fue firmada por los senadores Ron Wyden, Ben Ray Luján y Ed Markey. Los legisladores señalaron que los cambios recientes anunciados por X y xAI, incluyendo la limitación de algunas funciones de generación de imágenes a usuarios de pago, no abordan adecuadamente los riesgos asociados a la tecnología. Afirmaron que el material perjudicial sigue siendo accesible y que las restricciones basadas en el estatus de suscripción no constituyen salvaguardas efectivas.
Las directrices de la App Store de Apple prohíben contenido que incluya explotación sexual o material perjudicial para los niños. Las políticas de Google en Play Store restringen de forma similar las aplicaciones que permiten o facilitan contenido sexual no consensuado. Los senadores afirmaron que no actuar podría socavar la credibilidad de esas normas y exponer a los usuarios a daños continuos.
Ni Apple ni Google han indicado públicamente si planean eliminar a X o a Grok en respuesta a la solicitud. X y xAI tampoco han emitido una respuesta formal en el momento de la notificación.
El atractivo surge en medio de un escrutinio más amplio de las herramientas de inteligencia artificial generativa y su capacidad para producir imágenes realistas pero dañinas. Los legisladores señalaron que el caso pone de manifiesto la creciente presión sobre los operadores de plataformas y los distribuidores de aplicaciones para abordar los riesgos que suponen los sistemas de IA, que pueden ser mal utilizados para crear contenido abusivo o explotador.