Más de cuatro centenas de expertos en inteligencia artificial (IA), tecnología, seguridad en línea, ética digital y política global han firmado una carta abierta para exigir a los gobiernos de todo el mundo tomar medidas vinculantes urgentes en contra de los deepfakes.
El documento se titula Disrupting the Deepfake Supply Chain. Sostiene que los contenidos audiovisuales hiperrealistas creados con IA “son una amenaza creciente para la sociedad y que los gobiernos deben imponer obligaciones en toda la cadena de suministro para detener su proliferación”. Hasta el momento, 447 intelectuales de países como México, Brasil, Venezuela, Estados Unidos, Canadá, Reino Unido, Australia, Japón, Italia y China han firmado la misiva. Entre ellos destacan Luis Videgaray, Andrew Yang, Joy Buolamwini, Stuart Russell, Sarah Gardner, Gary Marcus, Frances Haugen, Steven Pinker, Sneha Revanur, Chris Weitz, Marietje Schaake y Oren Etzioni.
Los signatarios advierten que los marcos regulatorios alrededor del uso de la IA deberían atender tres aspectos fundamentales respecto a la creación de deepfakes:
- Penalizar por completo la pornografía infantil producida con esta tecnología, incluso cuando solo se representen niños ficticios
- Establecer sanciones penales para cualquiera que, a sabiendas, cree o facilite deliberadamente la difusión de contenidos dañinos y falsos creados con IA
- Exigir a los desarrolladores y distribuidores de software que impidan que sus productos audiovisuales creen deepfakes. Las big tech (como OpenAI, Google, Microsoft, etc.) deben ser consideradas como responsables si sus medidas preventivas y de contención se eluden con demasiada facilidad.
Los deepfakes están fuera de control
Argumentan que el acelerado avance en el desarrollo de la IA y su rápida adopción generalizada está provocando que la creación de deepfakes sea cada vez más ágil, económica y práctica. “Las leyes actuales no apuntan ni limitan adecuadamente la producción y difusión de deepfakes e, incluso, los requisitos impuestos a los creadores, que a menudo son menores de edad, son ineficaces”, advierten.
La proliferación de vídeos falsos y engañosos producidos con sistemas de inteligencia artificial ha crecido un 550% entre 2019 y 2023, según el informe State of Deepfakes 2023 de Home Security Heroes, organización de seguridad en línea.
La falta de regulación y el acelerado mejoramiento de la tecnología resulta en el fortalecimiento de problemáticas sociales, culturales y económicas que tienen potencial para afectar, particularmente, a grupos vulnerables. El escrito señala que uno de los fenómenos más preocupantes es el crecimiento desmedido de la industria pornográfica basada en IA.
Los contenidos lascivos y ficticios creados con esta tecnología representan el 98% de todos los videos deepfake en línea. Durante el último año, el contenido sexual ultrafalso registró un aumento del 400%. Alcanzó un tráfico mensual superior a 34 millones de usuarios en 2023. El 99% de los destinatarios fueron mujeres. “Esto sigue una tendencia preexistente en la violencia de género facilitada por la tecnología, donde el 58% de las mujeres jóvenes y niñas en todo el mundo han experimentado acoso en línea en plataformas de redes sociales, con un impacto desproporcionado experimentado según el género, la raza y el origen étnico, orientación sexual, religión y otros factores”, señala.
La suplantación y robo de identidad es una amenaza de gran alcance para las personas como para las empresas. Onfido, compañía de soluciones dedicada a la verificación de identidad en digital, calcula que el fraude deepfake aumentó 3,000% el año pasado. La tendencia es especialmente preocupante de cara a los procesos electorales, en los que el 51% de la población mundial participará.
“Para que una sociedad moderna funcione, las personas necesitan tener acceso a información creíble y auténtica. Engañar al público mediante el uso de la IA debería regularse y aplicarse mediante leyes específicas y formalizadas. Cada vez es más difícil identificar qué es real en internet. Es necesario trazar líneas para proteger nuestra capacidad de reconocer a seres humanos reales”, sentencia la carta.
Apunta que una solución práctica al problema sería la implementación generalizada en fotografías y videos de sellos digitales criptográficos a prueba de manipulaciones. Sugieren que este tipo de marcas “permitirían a cualquiera utilizar aplicaciones de autenticación de código abierto para verificar que una foto o un vídeo debidamente firmado es auténtico. Los fabricantes de dispositivos, los desarrolladores de software y las empresas de medios deberían trabajar juntos y popularizar estos métodos de autenticación de contenidos u otros similares”.
La regulación del desarrollo y uso de la inteligencia artificial se ha convertido en uno de los temas de mayor interés durante los últimos meses. Estas iniciativas parecen desarrollarse de manera aislada. Expertos anticipan que bajo dichas condiciones, el éxito de los esfuerzos está comprometido.
El documento que amplificar la voz de más de 400 intelectuales advierte que “no todos los firmantes tendrán los mismos motivos para respaldar la declaración”. Diversos intereses están de por medio: cifras de Statista anticipan que el valor de mercado de la inteligencia artificial puede superar los 300,000 millones de dólares en 2025.
