Así es como el régimen venezolano utilizó la inteligencia artificial para desinformar
Si tienes poco tiempo...
El régimen de Nicolás Maduro desarrolló plataformas digitales que aparentan ser medios de comunicación legítimos, pero que, en realidad, difunden información falsa mediante avatares generados por IA.
Este software puede reproducir discursos con diferentes voces, acentos, idiomas y atuendos a partir de un texto previamente elaborado.
The New York Times alertó sobre el uso de técnicas similares, conocidas como deepfakes, por parte de las autoridades chinas para influir en la opinión pública de manera sutil.
Los rápidos avances en el ámbito de la tecnología impulsados por la Inteligencia Artificial (IA) han dado lugar a la creación de programas innovadores como ChatGPT y DALL-E. Estos programas tienen la capacidad de generar textos e imágenes a partir de ideas proporcionadas por los usuarios. Otras aplicaciones permiten la simulación de conversaciones con avatares virtuales, brindando una experiencia cercana a la charla que podrías tener con una persona real.
A pesar de que algunos usuarios emplean estas herramientas de manera inofensiva, también se ha observado un uso desinformativo por parte de organizaciones políticas, como es el caso del Gobierno venezolano. El régimen de Nicolás Maduro desarrolló plataformas digitales que aparentan ser medios de comunicación legítimos, pero que, en realidad, difunden información falsa mediante avatares generados por computadora.
Un portavoz de la organización Cazadores de Fake News, Héctor Mazarri, confirmó esta manipulación al diario español El País en febrero de 2023. Mazzarri señaló un canal de YouTube llamado House of News Español como ejemplo de este tipo de prácticas. En este espacio, supuestos «reporteros» dan las noticias en inglés y español desde un aparente estudio televisivo. Tratan temas sociales, de economía y política venezolana.
Sin embargo, a pesar de que hablan y lucen como una persona normal, los supuestos locutores no son humanos reales, sino personajes creados mediante IA. Y su discurso suele diferir significativamente de la realidad que viven los habitantes de la nación sudamericana, explicó la nota de El País.
Mazarri explicó que estas representaciones ficticias se generan a través del software Synthesia, el cual posee dentro de su base de datos una gran cantidad de distintos rostros humanos. Este software puede reproducir discursos con diferentes voces, acentos, idiomas y atuendos a partir de un texto previamente elaborado.
Este tipo específico de desinformación tiene como objetivo impulsar narrativas favorables a ciertos grupos e instituciones, generalmente en el ámbito político. Y aunque un usuario entrenado y habituado a este tipo de prácticas podría identificar errores o incongruencias en el material creado con IA, esta estrategia está diseñada para engañar a una audiencia más amplia y generar desconfianza entre los ciudadanos.
Por lo pronto, tanto el canal House of News, como sus avatares virtuales, fueron suspendidos de YouTube.
Estos nuevos hallazgos se suman a una lista extensa de intentos de manipulación de la conversación, tanto en internet como en el mundo físico, por parte del poder venezolano. El Observatorio ProBox, dedicado al análisis de datos, informó que en febrero de 2023 identificaron más de 10 millones de comentarios asociados al chavismo en X (antes Twitter), de los cuales el 96.35% eran mensajes manipulados provenientes de cuentas automatizadas o posibles bots, coordinados de manera no auténtica.
Como una de las posibles soluciones para combatir este tipo de desinformación, Mazzarri propone promover la creación de «infociudadanos». Es decir, de personas sin entrenamiento periodístico, pero que están informadas y presentan esa información (ya sea en redes sociales o en cualquier otro espacio) de manera similar a como lo haría un profesional.
Además, no es solamente el poder venezolano el que realiza estas acciones de desinformación. Recientemente, The New York Times alertó sobre el uso de técnicas similares, conocidas como deepfakes, por parte de las autoridades chinas para influir en la opinión pública de manera sutil. En este caso, el diario estadounidense también mencionó el uso de Synthesia.
Es evidente que el uso de inteligencia artificial para crear contenido falso con el objetivo de influir en la opinión pública es una preocupación creciente. La capacidad de generar textos, imágenes y vídeos convincentes mediante algoritmos de IA plantea desafíos significativos para quienes combaten la desinformación y la manipulación.
La educación sobre cómo funciona la inteligencia artificial y la conciencia sobre las tácticas utilizadas para difundir información falsa son pasos seguros e importantes para empoderar a la sociedad y motivar la toma de decisiones informadas
Fuentes consultadas
