Los deepfakes, mejor conocidos en español como "ultrafalsos", creados con sistemas de Inteligencia Artificial (IA), han estado circulando por Internet y otros medios desde ya varios años, sorprendiéndonos con su capacidad de generar imágenes, videos y audios falsos de manera cada vez más realista. ¿Alguna vez han pensado que un contenido es verdadero y después se enteran que fue generado por IA? Todos y todas hemos caído, y justo, esa es nuestra preocupación.
Si bien queremos reconocer que uno de los temas más preocupantes actualmente es el porcentaje (96%) del uso de esta tecnología para la generación de contenido pornográfico no consensuado, hoy nos gustaría enfocarnos en un tema que no deja de darnos vueltas en la cabeza: su impacto en la democracia. Con el Proceso Electoral en México a la vuelta de la esquina, la posibilidad de manipular videos, discursos y audios para influir en las elecciones y opinión pública se intensifica, transformándose en una amenaza tangible que no podemos ignorar y esperamos que después de leer este artículo, ustedes tampoco.
¿Les parece que exageramos? Imaginen este escenario: horas antes de que las urnas se abran, una grabación de voz circula en redes sociales, implicando a uno de los candidatos presidenciales en supuestos planes de manipulación y compra de votos, lo que desata caos en medio del proceso electoral influyendo en la elección de candidato.
Pues bien, ¡este escenario pasó en las elecciones de Eslovaquia de 2023! La grabación falsa vinculaba a Michal Šimečka, Líder del partido Eslovaquia Progresista, y Monika Tódová, del periódico Denník N. El problema fue que, aunque los verificadores se apresuraron a desmentir el audio, ya se había compartido como auténtico en las redes sociales, posiblemente afectando el resultado de las elecciones. Esta tecnología no solo tiene el potencial de crear contenido falso con la intención de influir en los votos, sino también tiene la capacidad de difamar a candidatos y candidatas, provocando perjuicios y afectando negativamente su imagen.
Además, puede utilizarse para producir propaganda, generando mensajes falsos sobre temas claves o sensibles e impactando de manera directa en la percepción pública. Un caso reciente es la manipulación de vídeos de celebridades en una campaña de desinformación rusa. En este caso, la manipulación se centró en videos de celebridades, entre ellas el actor Elija Wood (exacto ¡Frodo!) donde supuestamente da su opinión sobre Volodymyr Zelensky, haciendo referencia sobre supuestos abusos de sustancias ilícitas por parte del Presidente ucraniano.
¿Quieren saber qué es lo más alarmante de este caso? Ese contenido fue ampliamente difundido por medios de comunicación bajo el control del gobierno ruso. Otro caso conocido fue a principios de este año, donde más de 100 anuncios de videos falsos de Rishi Sunak (el primer ministro de Gran Bretaña) hicieron su aparición en redes sociales, vinculándolo con un escándalo de corrupción. De nuevo, aunque la mayoría de estos anuncios fueron desactivados antes de ser descubiertos, su alcance se extendió a casi 400,000 personas.
Ahora, Gran Bretaña se enfrenta al temor de que estas herramientas impacten de manera significativa en sus próximas elecciones. Los ejemplos anteriores muestran las dificultades para combatir la desinformación y la manipulación mediática generadas por los deepfakes ¡Ya ven cómo no exagerábamos! Estos desafíos no solo debilitan la confianza del público en la información difundida, sino que también resaltan la insuficiencia de las herramientas actuales para verificar la abrumadora cantidad de contenidos en línea.
Aunque las plataformas digitales están trabajando con el ecosistema para crear estándares técnicos que permitan la identificación de contenido creado con IA, usándolos para etiquetar imágenes, videos y audio creado con sistemas de IA o usar marcas de agua, estas respuestas no abarcan el alcance completo del reto. Esto porque no estamos abordando la raíz del problema, que es mucho más profundo.
Especialistas señalan que si el objetivo es desacreditar la imagen de alguien, es probable que no simpatizantes compartan el contenido, incluso si reconocen su falsedad. Este punto es el que consideramos más preocupante.
Hay una creencia general que si un contenido justifica nuestras propias creencias equivocadas, lo hace razón suficiente para difundirlo, aún sabiendo que es falso. Les preguntamos a ustedes: ¿Cuántas veces han compartido contenido sólo porque abraza sus propios intereses o creencias sin haber confirmado su veracidad? Regresándonos al tema y preocupación principal, el Proceso Electoral del 2023-2024 está a punto de marcar un hito, ya que será la elección más grande registrado en el país. Con un padrón de cerca de 98 millones de votantes, dentro de los cuales más de 15 millones de jóvenes participarán por primera vez.
Esta elección determinará cargos clave, incluyendo la Presidencia de la República, 128 puestos en el Senado, 500 en la Cámara de Diputados, 8 gubernaturas, la Jefatura de Gobierno de la Ciudad de México y la renovación de 31 Congresos locales (para más información visita: https://ine.mx/voto-y-elecciones/elecciones-2024/).
Nos encontramos frente a una amenaza que podría someter a prueba la integridad de nuestro proceso electoral sin precedentes, sobre todo considerando que un 70% de la población mexicana no sabe qué es un deepfake. Si incluso nosotras, que nos dedicamos a explorar temas tecnosociales, a veces caemos en las trampas, imagínense a sus familiares que se la pasan compartiendo cadenas en WhatsApp. Además, la accesibilidad y simplicidad en el uso de esta tecnología mediante aplicaciones gratuitas exponen aún más a la población a posibles manipulaciones y engaños. Otro reto al que se enfrenta México es la falta de regulación en la materia.
A pesar de la existencia de propuestas en el Congreso, la creación de deepfakes sigue sin tipificarse como delito en nuestras leyes y será imposible incluirlo a tiempo para las próximas elecciones. En el actual escenario político tan polarizado que experimenta el país, donde los cambios de gobierno tienen implicaciones significativas, la lucha por mantener una narrativa electoral basada en hechos verificables se vuelve crucial para las próximas elecciones.
La integridad del proceso electoral mexicano requiere, más que nunca, una respuesta coordinada: educación pública sobre estas tecnologías, actualización del código penal, fortalecimiento de los mecanismos de verificación de contenido entre sector público y privado, junto con los medios de comunicación, y el impulso de la confianza en las instituciones responsables de preservar la democracia.
