Las principales plataformas de redes sociales, como Meta, TikTok, X, Reddit y Snapchat, están ahora legalmente obligadas a eliminar pornografía deepfake e imágenes íntimas no consensuadas en un plazo de 48 horas tras recibir un informe válido de las víctimas.
El requisito se encuentra bajo la recién promulgada Ley Take It Down, una ley federal diseñada para combatir la rápida propagación de deepfakes sexuales generados por IA y pornografía de venganza en línea. La legislación entró oficialmente en plena aplicación esta semana después de que a las plataformas se les diera un plazo de un año para construir sistemas de informes y eliminación.
Según la ley, las plataformas online que no eliminen el contenido denunciado dentro del plazo establecido pueden enfrentarse a multas de hasta 53.088 dólares por infracción. Las normas se aplican tanto a imágenes íntimas auténticas compartidas sin consentimiento como a deepfakes sexualmente explícitos generados por IA.
La Comisión Federal de Comercio es responsable de hacer cumplir la ley y ya ha emitido avisos de cumplimiento a las principales empresas tecnológicas antes de la fecha límite de aplicación. Las empresas contactadas supuestamente por reguladores incluyen Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap y Alphabet.
La ley representa una de las respuestas federales más contundentes hasta la fecha al creciente abuso de las herramientas de IA generativa utilizadas para crear imágenes y vídeos explícitos falsos. La tecnología deepfake se ha vuelto cada vez más accesible en los últimos dos años, permitiendo a los usuarios generar contenido realista y no consensuado con un mínimo conocimiento técnico.
Las víctimas de abuso en deepfake han tenido durante mucho tiempo dificultades para obligar a las plataformas a eliminar rápidamente contenido dañino, especialmente cuando las imágenes se distribuyen en múltiples servicios simultáneamente. La nueva ley exige que las empresas proporcionen herramientas claras de reporte y actúen rápidamente una vez presentadas solicitudes válidas de retirada.
La legislación se inspiró parcialmente en varios incidentes de abuso deepfake de alto perfil que involucraron a celebridades, estudiantes y menores. En los últimos años, imágenes explícitas generadas por IA dirigidas a figuras públicas y particulares se han difundido ampliamente en las redes sociales, lo que ha generado presión para una regulación más estricta.
Los investigadores siguen advirtiendo que el abuso de deepfake está evolucionando más rápido que los sistemas actuales de detección. Varios estudios académicos recientes han encontrado que muchas manipulaciones generadas por IA siguen siendo difíciles de identificar tanto para humanos como para herramientas automatizadas, especialmente en formatos de vídeo y audio.
Los gobiernos tanto de Estados Unidos como de Europa están aumentando la presión sobre las empresas tecnológicas para que respondan de forma más agresiva al abuso generado por IA, especialmente al contenido que involucra acoso, chantaje, explotación sexual e imágenes no consentidas.