Las autoridades legislativas de Reino Unido evalúan un proyecto de ley que pretende tipificar como delito penal la creación de deepfakes sexualmente explícitas sin consentimiento. La medida pretende establecer un marco regulatorio que proteja a las personas de los riesgos asociados al uso indebido de la inteligencia artificial (IA). Los expertos han alertado que las mujeres están particularmente expuestas a estos peligros.
La normativa se introduciría como una enmienda a una propuesta de reforma a la ley de justicia penal que ahora es examinada por el Parlamento. Se aplicaría en Inglaterra y Gales, países que desde el año pasado ya penalizan el intercambio de imágenes sexuales falsas sin autorización.
La propuesta legislativa fue presentada por Laura Farris, ministra de Víctimas y Protección, y el Ministerio de Justicia de Reino Unido. Dictamina que “si alguien crea un deepfake sexualmente explícito, incluso si no tiene la intención de compartirlo, estará cometiendo un delito". La disposición abarca imágenes pornográficas y desnudos parciales o totales falsos, independientemente de que el sujeto tenga o no un comportamiento erótico.
El ilícito se castigará con una multa ilimitada y antecedentes penales. Los transgresores podrían enfrentar penas de hasta dos años de prisión si deciden difundir el contenido. Las leyes inglesas y galesas actuales califican la producción de deepfakes explícitos de menores de edad como un delito. La nueva regla aplicará solo para adultos.
El proyecto permitirá reforzar las regulaciones existentes que pretenden combatir el acoso y explotación sexual en línea. “Si una persona crea este tipo de imágenes y luego las comparte, podría ser acusada de dos delitos. Su pena aumentaría", sostienen los impulsores de la reforma.
Farris describió la propuesta como “una oportunidad importante para abordar la creación de imágenes deepfake”. En una entrevista con la revista de estilo de vida Glamour UK, argumentó que la producción de este contenido no puede justificarse bajo alegatos de uso personal. “No basta con decir: 'Simplemente lo creé para usarlo para mi propia gratificación. Si el material se difunde puede tener un efecto catastrófico en la vida de una persona".
Los deepfakes explícitos son un problema que crece a nivel mundial
El porno deepfake ha crecido de manera significativa a medida que aumentan el acceso a las herramientas de IA generativa. En los primeros nueve meses de 2023, se subieron 113,000 videos de esta naturaleza a los sitios web para adultos más populares, un aumento significativo con respecto a los 73,000 subidos a lo largo de 2022. En 2019, el 96% de los contenidos falsos en internet eran contenidos sexuales explícitos.
Clare Mary Smith McGlynn, profesora de derecho en la Universidad de Durham y especialista en violencia contra las mujeres, dijo a Glamour que “la tecnología deepfake ahora es tan fácil de usar que cualquier persona puede ser víctima de una falsificación en cualquier momento. Roba la identidad y la autonomía de las mujeres. Es una adulteración digital que no es ilegal”.
Legisladores de diversos países han presentado algunas iniciativas que pretenden erradicar el problema. La Unión Europea propuso en 2022 una normativa que castiga la creación de deepfakes obscenos. De aprobarse, obligaría a los 27 estados miembros del bloque a diseñar leyes nacionales referentes.
Un grupo bipartidista de diputados y senadores estadounidenses presentaron un proyecto de reforma civil que permitiría a las víctimas demandar a las personas que crean y difunden esta clase de materiales sin su consentimiento. La llamada Ley DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) fue anunciada luego de que se divulgaran imágenes explícitas de Taylor Swift creadas con sistemas de inteligencia artificial.
En México, el diputado Miguel Torruco presentó una propuesta de reforma al Código Penal Federal para castigar, hasta con ocho años de cárcel, a los individuos que sin consentimiento, generen, expongan, distribuyan, transmitan, reproduzcan, comercialicen e intercambien contenido íntimo creado con sistemas de IA, a través de medios impresos, correos electrónicos, redes sociales, o cualquier otro medio tecnológico.
La proliferación de vídeos falsos y engañosos producidos con sistemas de inteligencia artificial ha crecido un 550% entre 2019 y 2023, según el informe State of Deepfakes 2023 de Home Security Heroes, organización de seguridad en línea.
La falta de regulación y el acelerado mejoramiento de la tecnología resulta en el fortalecimiento de problemáticas sociales, culturales y económicas que tienen potencial para afectar, particularmente, a grupos vulnerables. Uno de los fenómenos más preocupantes es el crecimiento desmedido de la industria pornográfica basada en IA.
