Usuarios piden modificar las fotos de perfil con Grok y se descontrola; ¿Se puede aplicar la Ley Olimpia en estos casos?

El avance de la Inteligencia Artificial nos ha traído herramientas increíbles, pero también ha abierto la puerta a nuevas formas de agresión, especialmente contra las mujeres. La importancia de este tema radica en la delgada línea entre la “creatividad tecnológica” y la violación a la intimidad.

Lo que muchos consideran una “broma” o un experimento digital, en realidad puede destruir la vida de una persona y, en nuestro país, esto ya no queda impune.

Recientemente, se ha generado una alerta por el uso de imágenes modificadas con Grok, la IA de la plataforma X (antes Twitter), que algunos usuarios están utilizando de forma malintencionada. Aquí te explicamos el contexto y las graves consecuencias legales que esto tiene en México.

TAMBIÉN PUEDES LEER: Diputada de Morena propone hasta 8 años de cárcel por manipular imágenes sexuales con IA

¿Cuál es el contexto de las fotos modificadas con Grok?

En las últimas semanas, se ha reportado que diversos usuarios de la red social X están aprovechando las funciones de generación de imágenes de su chatbot, Grok, para crear contenido explícito sin consentimiento. El problema principal es que se están generando imágenes modificadas con Grok donde se “desnuda” digitalmente a mujeres (incluyendo figuras públicas) a partir de fotos normales.

Esta práctica, conocida como deepfakes de desnudez, se ha vuelto viral, encendiendo las alarmas sobre la falta de filtros de seguridad en la herramienta de Elon Musk.

¿Qué dice la Ley Olimpia en México?

La Ley Olimpia no es una ley como tal, sino un conjunto de reformas legales encaminadas a reconocer la violencia digital y sancionar los delitos que violen la intimidad sexual de las personas a través de medios digitales.

En México, esta ley castiga la difusión, producción, distribución o exhibición de contenido sexual (fotos, audios o videos) sin el consentimiento de la persona implicada. Lo más importante es que la ley reconoce que el daño a la dignidad y la integridad es real, aunque el material se comparta en el mundo virtual.

¿Esto podría castigarse bajo la Ley Olimpia?

¡Totalmente! Aunque se trate de imágenes modificadas con Grok y no de fotos reales, la legislación mexicana es clara: la creación y difusión de contenido íntimo falso (como los deepfakes) mediante inteligencia artificial también entra en el supuesto de violencia digital. Quien genere o comparta este tipo de contenido puede enfrentar penas que van de los 3 a 6 años de prisión, además de multas económicas considerables. No importa que la imagen sea “inventada” por una computadora; si vulnera la intimidad de una mujer, es un delito.

Por lo que te aconsejamos, que si detectas a alguien que está utilizando imágenes modificadas con Grok para dañar a una persona, no las compartas ni les des difusión, ya que al hacerlo también podrías estar incurriendo en un delito. La denuncia digital es el primer paso para frenar esta violencia.

Asimismo, si eres víctima de violencia digital, puedes acercarte a la Policía Cibernética de tu estado o a colectivos feministas para saber qué es lo que sigue.

TAMBIÉN PUEDES LEER: Elon Musk revela cuándo la IA superará a la inteligencia humana

Ampliar