El escándalo por deepfakes sexualizados generados por la IA de Elon Musk expone un problema de diseño, responsabilidad y silencio corporativo que ya activó alarmas en Europa.
La inteligencia artificial Grok, desarrollada por xAI e integrada a la red social X, quedó esta semana en el centro de una controversia internacional que va mucho más allá de un error técnico. Denuncias de usuarios, organizaciones y autoridades señalan que el sistema ha sido utilizado para generar deepfakes sexualizados de mujeres y, en los casos más graves, de menores de edad, a partir de solicitudes directas realizadas por hombres muchas veces anónimos.
La reacción no tardó en escalar. Desde la Unión Europea, autoridades condenaron públicamente los contenidos generados y recordaron que el desarrollo de inteligencia artificial debe respetar estándares estrictos de derechos fundamentales. La Comisión Europea subrayó que la normativa comunitaria sobre servicios digitales y la futura Ley de Inteligencia Artificial imponen obligaciones claras a las plataformas, especialmente cuando están en juego la integridad, la privacidad y la dignidad de las personas.
En el Reino Unido, el tono fue aún más directo. Funcionarios advirtieron que los reguladores evalúan una posible investigación formal para determinar si Grok podría estar violando leyes de protección infantil y normas contra contenidos ilegales. Francia, por su parte, elevó el caso a su fiscalía nacional y pidió la intervención del regulador Arcom, señalando posibles incumplimientos de la Ley de Servicios Digitales de la UE.
El punto central no es la inteligencia artificial como concepto abstracto, sino el diseño del producto. Grok ofrece acceso fácil y fricción mínima, dos características que, combinadas, generan una tormenta perfecta para el acoso, la humillación pública y el uso abusivo. En lugar de frenar estas prácticas, los filtros de seguridad resultaron insuficientes, permitiendo que pedidos como “ponele una bikini” o “sacale la ropa” se conviertan en acciones cotidianas con alto alcance en la plataforma.
A esto se suma un factor que agrava la crisis: el silencio corporativo. Ni X ni xAI han emitido respuestas claras y contundentes mientras miles de personas denuncian la sexualización sin consentimiento. Incluso las supuestas “disculpas” de Grok, reportadas por algunos usuarios, terminaron convertidas en meme. Y no por casualidad: un modelo de IA no asume responsabilidad real. La responsabilidad recae en quienes diseñan, habilitan y monetizan estas herramientas.
La polémica también golpea directamente a Elon Musk, defensor de una visión de la inteligencia artificial con menos restricciones y mayor énfasis en la libertad de expresión. El problema es que, en este caso, esa filosofía choca de frente con derechos básicos como el consentimiento y la seguridad, especialmente cuando hay menores involucrados.
Mientras xAI presume contratos millonarios, incluido uno de hasta 171 millones de euros con el Departamento de Defensa de Estados Unidos, el mensaje hacia los usuarios es inquietante: si no se corta de raíz el abuso, cualquiera puede convertirse en objetivo con una foto común y un simple prompt. La tecnología no es neutral cuando su diseño permite el daño. Y este caso lo demuestra con crudeza.
