“Desinformación: el uso de la IA generativa para crear información falsa en la política”, fue el conversatorio organizado por la Universidad de las Américas Puebla, en el que participaron académicas y académicos del más alto nivel, como Iván Vladimir Meza Ruíz, Investigador Asociado del IIMAS de la UNAM, quien detalló que las deepfake, son archivos de imagen, voz o video manipulados mediante softwares para imitar la apariencia y sonido de una persona, que además de engañar a la gente también llegan a hacerlo con los algoritmos de las computadoras.
El académico recordó que este “fenómeno ya tiene mucho tiempo desde que lo hemos visto y lo hemos sufrido. Las fotografías ya se manipulaban con photoshop. Las voces también.
Pero esto ya cambió y usamos ahora el término deepfake, que tiene que ver con una nueva tecnología que se ha vuelto la más exitosa en el campo de inteligencia artificial, y que es el uso de redes neuronales profundas. Tenemos 10 años trabajando con estas redes neuronales de forma intensiva y vimos que iban a funcionar. ¿Una persona está presente en ese video o está presente en ese audio?, nos preguntamos actualmente¨.
Cabe decir que este conversatorio se inserta dentro de la serie organizada por la UDLAP “Elecciones en México y el mundo 2024: La democracia a prueba”.
A la pregunta de la doctora Zobeida J. Guzmán Zavaleta, moderadora del conversatorio en su calidad de profesora del Departamento de Computación, Electrónica y Mecatrónica de la UDLAP, de si las herramientas de inteligencia artificial pueden ser un arma de desinformación, Juliana Fregoso, de Infobae Project manger AI y Proyectos especiales, respondió que en el campo electoral “en 2023, en la elección de Eslovaquia, se falsificó un audio con una supuesta conversación entre el líder del Partido Progresista y una periodista donde presuntamente estaban planeando la compra masiva de votos”.
Recordó que en el Reino Unido se crearon deepfakes acusando al primer ministro de fraude, y que alcanzaron una audiciencia de cuatro cientas mil personas en plenas campañas electorales. “A lo mejor miles de estas personas pensaban votar por la reelección del Primer Ministro de Reino Unido. Pero estos videos falsos que se compartieron pudieron haberlas hecho cambiar de opinión”.
La propia Juliana Fregoso durante su primera intervención explicó que con IA recrearon la voz de una de las candidatas a la presidencia de la república solicitando recursos económicos. Y añadió que “ya vimos costos que tienen estos estos videos de fake, pero el tema está en los alcances que pueden tener para ciertos grupos o para ciertas personas que buscan un fin específico”.
En este orden de ideas, el Doctor José Martínez Carranza, profesor asociado del INAOE, expresó que desarrollar y producir estas noticias falsas tiene un costo unitario, más el de réplica en redes. “Si hablamos de medios de comunicación, dijo, pues la guerra de desinformación ha existido desde que hay radio, televisión, incluso antes cuando solo había periódico, pues quien dominaba los medios es quien puede hacer la guerra al oponente”.
El doctor José Martínez abundó sobre la creación de noticias y su vertiginoso recorrido a lo largo de un día: “Y ahora el fenómeno que tenemos es que pues ya no estamos hablando de medios tradicionales, sino tenemos medios masivos a través del Internet, y eso entonces lo que genera es que una noticia de la mañana provoca un escándalo y para el mediodía o en la en la tarde, ya no tiene validez, pero entonces llega a la siguiente deepfake. Y para cuando la gente se dé cuenta, lo más probable es que lo que esté viendo realmente ya sea algo muy obsoleto”.
Abundó sobre la compra de perfiles reales en X (antes twiter), la internacionalización de este comercio de granjas de bots y gente real para crear tendencias.
Iván Vladimir Meza Ruiz explicó que la masificación informativa como hoy la vemos inició hace 20 años y que ha crecido vertiginosamente por el alto consumo de información. Más la hiperpersonalización segmentada que aprovecha este flujo. Dijo que muchas veces “estos mensajes están destinados a ciertos perfiles de personas con el fin de hacerlos cambiar de opinión, de exaltarlos o para que se sientan agredidos y que se resalte un enojo, un disgusto por ciertas instituciones. Por ejemplo la plataforma Facebook es muy buena haciendo esa hiper personalización. Esta industria está creciendo y se está apoderando de nuevas herramientas y estrategias para cumplir sus objetivos de desinformar”.
Juliana Fregoso retomó su participación para agregar que “la inteligencia artificial no solamente nos ha traído este tema de deepfake, sino que también nos ha traído lo que ahora llamamos granjas de medios de comunicación, que pueden ser sitios web de noticias, pero hechos completamente por inteligencia artificial, con notas generadas únicamente por inteligencia artificial y que tienen cierto sesgo que puede torcer la opinión pública. Lo que es un problema muy grave, porque con en el tema de la inteligencia artificial nos está pasando lo mismo que nos pasó al inicio con las redes sociales.
“Cuando apenas empezábamos a entender Facebook, salió Twitter. Cuando apenas estamos empezando a entender Twitter, salió Instagram.
Cuando pensábamos que ya habíamos entendido Instagram salió Tik tok y cuando nos mandaron a encerrar por la pandemia vino ChatGPT, que nació en noviembre de 2022, cuando todavía estábamos despertando del encierro. Es el boom del Chat GPT. Ahí empieza una explosión del uso de la inteligencia artificial a nivel mundial aunque mucha gente no sabía para qué se usaba. Pero como era el futuro había que empezarlo a utilizar”.
Fregoso se preguntó ¿qué tanto podemos confiar en la inteligencia artificial para dejarle la elaboración de contenidos en los medios de comunicación?
Dentro de los múltiples temas abordados en el conversatorio se habló de la posverdad. Juliana Fregoso expresó que “estamos viviendo en diferentes verdades. De hecho, por eso se maneja el término alucinar. Los modelos así funcionan, generan información con la inteligencia artificial y vivimos historias que creemos verdaderas y acabamos estando en diferentes realidades”. Advirtió que en las redes sociales se termina el Estado de Derecho con las falsas noticias; con la inteligencia artificial se afectan reputaciones. Juliana Fregoso expresó que desde su experiencia como periodista “siempre decimos que la verdad tiene tres versiones, la del que acusa la del acusador y lo que es cierto”.
Finalmente, la moderadora Zobeida J. Guzmán se preguntó que si las noticias falsas “se transmiten de manera masiva en los medios de comunicación, y no solamente en periódicos, televisión, radio, e internet y sino en todas los redes sociales, en consecuencia “¿será que las plataformas son las que tienen que regular el uso de sus contenidos?”.
