Nueva ley permitiría a las víctimas de Grok demandar a quienes generaron desnudos no consensuados.

El martes, el Senado de EE. UU. aprobó una nueva ley que permitirá a las víctimas demandar a las personas que utilizan modelos de IA como Grok para generar imágenes explícitas sexualmente sin consentimiento.

Esta ley, denominada Ley DEFIANCE (Desestabilización de Imágenes Falsas Explícitas y Ediciones No Consentidas), amplía una norma anterior, la Ley Take It Down, que prohibió la distribución de imágenes íntimas no consensuadas y obligó a las redes sociales a eliminarlas en un plazo de 48 horas. La nueva ley empodera a las víctimas para que puedan demandar a quienes generan dichas imágenes, buscando indemnizaciones y órdenes de restricción, como lo mencionó Bloomberg.

La medida fue propuesta por el senador Dick Durbin (D-Ill) y aprobada por unanimidad.

“Démosles a las víctimas su día en el tribunal para responsabilizar a quienes continúan publicando estas imágenes a su costa,” declaró Durbin en un discurso en el Senado, como se reportó por The Hill. “Hoy estamos un paso más cerca de convertir esto en una realidad.”

La ley llega en un momento en que Elon Musk y su plataforma X enfrentan un fuerte rechazo público tras el uso de su chatbot de IA Grok para generar miles de imágenes explícitas de adultos y niños a partir de fotos publicadas en la plataforma. La cantidad de estas imágenes fue tan abrumadora que la firma de análisis de contenido de IA Copyleaks estimó que el bot generaba una imagen sexualizada no consensuada cada minuto.

La falta de respuesta por parte de xAI, la startup de IA propiedad de Musk que desarrolla Grok, ha intensificado aún más la indignación del público y de los reguladores. Musk se ha mostrado despreocupado al respecto, reconociendo indirectamente las generaciones pornográficas sin mencionarlas explícitamente, al afirmar en un post que “cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si sube contenido ilegal.” También bromeó que la “tendencia” de desnudamientos no consensuados era “mucho más divertida” que otras tendencias iniciadas por otros chatbots de IA.

Si Musk no ha logrado comprender la gravedad de la situación, los gobiernos sí lo han hecho. Algunos países, como Malasia e Indonesia, han procedido a prohibir el acceso a su sitio web. El primer ministro del Reino Unido, Keir Starmer, advirtió que tomaría medidas drásticas contra X, mientras que el regulador de comunicaciones del país, Ofcom, inició una investigación oficial contra la empresa.

“Imagina perder el control sobre tu propia imagen o identidad,” dijo Durbin, según The Hill. “Imagina que eso te ocurriera cuando estabas en la secundaria. Imagina lo impotentes que se sienten las víctimas al no poder eliminar contenido ilícito, al no poder prevenir su reproducción constante y al no poder evitar que se creen nuevas imágenes.”

“Las consecuencias pueden ser profundas,” añadió.

La Ley DEFIANCE ahora debe pasar por una votación en la Cámara de Representantes antes de convertirse oficialmente en ley. Ya había pasado por una votación en el Senado cuando se propuso anteriormente en 2024, pero no logró avanzar en la cámara baja. Ahora, con la indignación causada por Grok, puede tener una mejor oportunidad.

Más sobre IA: La oposición a la IA de Elon Musk que desnuda a niños es casi universal, muestran encuestas