El Parlamento Europeo ha votado hoy a favor de prohibir las aplicaciones de inteligencia artificial que permiten desnudar virtualmente a personas. La medida, parte de un paquete mucho más extenso, ha sido aprobada poco después de que Comisión Europea abriera una investigación a la red social X por el despliegue del generador de imágenes de Grok.
Estas aplicaciones, descritas en el texto de la votación como "nudifier apps", incluirían "los sistemas que utilizan la IA para crear o manipular imágenes sexualmente explícitas o íntimas y que se asemejan a una persona real identificable sin el consentimiento de dicha persona". Las soluciones de IA generativa que hayan implementado medidas para evitar la creación de este tipo de composiciones se considerarían legalmente válidas.
La prohibición de las apps de IA para desnudar a personas forma parte de una propuesta omnibús que también tiene como objetivo modificar la Ley de Inteligencia Artificial (AIA por sus siglas en inglés) para retrasar la aplicación de las regulaciones que afectan a los sistemas denominados como de alto riesgo, como los relacionados con el procesamiento de información biométrica o de uso en infraestructuras y servicios básicos. En virtud de lo aprobado, las empresas que trabajen con estas tecnologías deberán cumplir la ley a partir del 2 de diciembre de 2027.
Asimismo, los parlamentarios han aprobado dar hasta el 2 de noviembre de 2026 para que los proveedores de tecnologías de IA generativa introduzcan marcas de agua en audios, vídeos, imágenes y texto para indicar su origen. Como sucede con la nueva fecha límite para los sistemas de IA de alto riesgo, esto supone en la práctica un nuevo retraso, y es que el aparato legislativo europeo está teniendo problemas importantes a la hora de definir los límites del uso de la IA en el territorio de la Unión dentro de los plazos marcados inicialmente.
El Parlamento Europeo no puede, en cualquier caso, promulgar leyes sin más. Las medidas deberán ser negociadas ahora con el Consejo Europeo, integrado por los veintisiete jefes de estado de la Unión Europea, antes de poder entrar en vigor.
Estas aplicaciones, descritas en el texto de la votación como "nudifier apps", incluirían "los sistemas que utilizan la IA para crear o manipular imágenes sexualmente explícitas o íntimas y que se asemejan a una persona real identificable sin el consentimiento de dicha persona". Las soluciones de IA generativa que hayan implementado medidas para evitar la creación de este tipo de composiciones se considerarían legalmente válidas.
La prohibición de las apps de IA para desnudar a personas forma parte de una propuesta omnibús que también tiene como objetivo modificar la Ley de Inteligencia Artificial (AIA por sus siglas en inglés) para retrasar la aplicación de las regulaciones que afectan a los sistemas denominados como de alto riesgo, como los relacionados con el procesamiento de información biométrica o de uso en infraestructuras y servicios básicos. En virtud de lo aprobado, las empresas que trabajen con estas tecnologías deberán cumplir la ley a partir del 2 de diciembre de 2027.
Asimismo, los parlamentarios han aprobado dar hasta el 2 de noviembre de 2026 para que los proveedores de tecnologías de IA generativa introduzcan marcas de agua en audios, vídeos, imágenes y texto para indicar su origen. Como sucede con la nueva fecha límite para los sistemas de IA de alto riesgo, esto supone en la práctica un nuevo retraso, y es que el aparato legislativo europeo está teniendo problemas importantes a la hora de definir los límites del uso de la IA en el territorio de la Unión dentro de los plazos marcados inicialmente.
El Parlamento Europeo no puede, en cualquier caso, promulgar leyes sin más. Las medidas deberán ser negociadas ahora con el Consejo Europeo, integrado por los veintisiete jefes de estado de la Unión Europea, antes de poder entrar en vigor.
[hallow]
Es que si compartes esas imágenes tienes que saber que te puedes llevar un multazo e ir a juicio, me refiero a si creas una foto de tu vecina o una chica del trabajo y la difundes con el fin de humillarla.
Y bueno, de la pedofilia no hace falta hablar, eso ya es cárcel directamente.
PD: la Inteligencia Artificial no es el problema, son nuestras creencias misóginas [beer]
Lo que está pasando ahora es que con la IA se ha vuelto superfacil y accesible hacerlo. Pero como siempre, la ley llega tarde (y mal). Hace más de un año que es posible mediante IA desnudar a personas, pero regulan eso justo ahora cuando hace meses que la IA ha pasado de desnudar personas a crear pornografía explícita sobre cualquiera. Cuando llegó Grok Imagine se popularizó bastante, en ForoCoches mismo hay toda una comunidad donde imagino se ayudan entre ellos a crear porno de sus vecinas, sin que estas lo sepan.
Y aquí podemos entrar a debatir, uno pensaría que no pasa nada si ese contenido no se comparte o se difunde, pero estoy convencido de que a nadie le gustaría enterarse de que han usado su cara y cuerpo para crear un video porno de forma privada. Imaginate enterarte de que por ahí, fuera de tu control, hay en manos de alguien un contenido explicito, falso pero bastante realista, sobre ti.
A mi me daría igual la verdad mientras no lo supiera y solo quedase en el ámbito privado de esa persona ¿Quién soy yo para meterme en los deseos y fantasías de otros? Pienso que es algo natural de la vida como seres sexuales, que alguien quiera tener sexo normal contigo, si esa persona no lo hace así lo hará igualmente con una foto mía o con la imaginación, me daría más miedo saber que alguien me quiere cortar a trozos y comerme la verdad, lo otro lo vería como algo natural; incluso si por algún descuido lo supiera, me haría el sueco por respeto, como cuando pillas a tus padres haciéndolo, que no te pones a hacerles preguntas de que están haciendo, o a tu hijo o hija dándose amor, X D, simplemente te alejas como si nada hubiera ocurrido. [carcajad]
Otra cosa sería que eso ya influyera en la vida de la otra persona, que alguien acosara a una persona, crease esas imágenes con el fin de humillar mediante la difusión.
Creo que abrí un hilo hace tiempo en misce sobre un youtuber al que le pillaron pagando por deepfakes de estos y tenía novia, salió llorando el chaval.
Te aseguro que llevo años oyendo cosas parecidas. La gente se ha acostumbrado tanto a estar en internet que ha olvidado cómo tenia que comportarse en la vida real. Algunos piden "Libertad" para unas cosas que no tienen ni pies ni cabeza.
El famoso anonimato de la red se ha convertido en el escudo desde el cual la gente hace y dice unas barbaridades que antes eran impensables. Te aseguro que la peña hace 15 o 20 años era mas comedida en internet porque una parte de su ser aun les hacia imaginarse que estaban teniendo esa conversación de tú a tú con una personal real, pero esa linea ya se ha desvanecido por completo.
No se trata de si es "natural" o no fantasear con otros, sino qué derecho tienen a usar imágenes tuyas sin tu consentimiento por la razón que sea. Realmente estás ya a medio paso de "Qué mas me da si usan mis fotos para hacer un video en IA fantaseando con cortarme a trozos y comerme, si yo no me entero y total la ira es un sentimiento humano."
Un saludo,