Las autoridades francesas y malayas investigan a Grok por generar deepfakes sexualizados

Francia y Malasia se han sumado a India en la condena contra Grok, el chatbot de xAI integrado en la plataforma X, por generar deepfakes sexualizados de mujeres y menores. Grok emitió una disculpa por crear una imagen de dos niñas en atuendo sexualizado basada en un prompt de usuario, reconociendo fallos en sus salvaguardas y posibles violaciones legales. El ministerio de TI de India ordenó a X restringir contenidos obscenos so pena de perder protecciones legales. Las autoridades francesas, incluyendo la fiscalía de París, investigan la proliferación de deepfakes explícitos en X, mientras que la comisión malaya examina los daños causados por el mal uso de IA. Este caso subraya los riesgos éticos y regulatorios de los modelos de IA generativa.