Alerta por la IA de "X": Manipula fotos y genera imágenes sexuales de mujeres y niñas

Durante los últimos días, creció la preocupación por el uso indebido de Grok, la inteligencia artificial integrada a la red social X, que está siendo utilizada para manipular fotos y generar imágenes sexualizadas de mujeres, niñas y adolescentes sin su consentimiento.

Pantallas, grooming y ciberacoso, las alertas para cuidar a los chicos en vacaciones

Según reveló Chequeado, usuarios encontraron instrucciones específicas (prompts) para pedirle a la IA que quite ropa, coloque bikinis, lencería o incluso agregue inscripciones ofensivas sobre imágenes reales publicadas en la plataforma. También se detectaron casos de sexualización de menores de edad, lo que encendió alarmas a nivel internacional.

Si bien este tipo de prácticas no son nuevas, el fenómeno tomó fuerza a fines de 2025 y comienzos de 2026. Incluso el propio Grok reconoció “fallos graves” que permitieron generar este contenido, aunque aseguró que no lo hace de manera intencional. Algunos perfiles fueron suspendidos, pero otros continúan activos.

Cada vez más países prohíben las redes sociales para menores de edad: ¿Qué sucederá en Argentina?

Cómo reducir el riesgo de que usen tus imágenes

Especialistas recomiendan configurar los perfiles en modo privado, evitar publicar fotos personales y desactivar las opciones que permiten a Grok entrenarse con los datos del usuario. Además, es clave denunciar el contenido inapropiado desde la misma plataforma.

Qué dice la ley en Argentina

Actualmente, no existe una figura penal específica que sancione la creación de imágenes falsas con inteligencia artificial. Sin embargo, se pueden iniciar acciones civiles por daños y perjuicios o causas penales vinculadas a delitos contra el honor. En casos que involucren menores, algunas fiscalías analizan aplicar el artículo 128 del Código Penal.

Otra herramienta legal es la Ley Olimpia, que incorpora la violencia digital dentro de la normativa de protección integral contra la violencia de género.

Femicidios en aumento y menos recursos: La ecuación más cruel de la violencia de género en Argentina

Qué hacer si una imagen ya circuló

Los especialistas aconsejan guardar pruebas, denunciar el hecho y buscar asesoramiento legal. También existen herramientas como StopNCII, que permite bloquear la difusión de imágenes íntimas sin consentimiento en distintas plataformas.

La situación vuelve a poner en debate los límites de la inteligencia artificial, la responsabilidad de las plataformas digitales y la necesidad de actualizar las leyes frente a nuevas formas de violencia digital.