Inteligencia artificial: ¿Qué es ChatGPT y cómo incide en la desinformación?

La inteligencia artificial se ha acercado a millones de usuarios. ChatGPT también está impactando en sectores, como el empresarial, educativo o el periodístico, al ofrecer soluciones innovadoras; pero; a veces, no todas las respuestas que ofrece son pertinentes y basada en la evidencia disponible: la herramienta puede responder con desinformaciones, como señala en una columna publicada en el diario La Nación, Pablo M. Fernández, director ejecutivo de Chequeado, medio cofundador de Factchequeado.

«En la lucha contra la desinformación, testear las nuevas herramientas de inteligencia artificial como ChatGPT a los verificadores de datos (fact-checkers) nos genera mucha preocupación: además de difundir información falsa son capaces, y aquí la novedad, de generar –en segundos– textos con desinformación que pueden engañar a miles de personas», agregó Fernández. 

¿Qué es ChatGPT?

Es el acrónimo de Chat Generative Pre-trained Transformer (Chat Generativo Preentrenado Transformador), un modelo de lenguaje por inteligencia artificial (IA), que utiliza algoritmos avanzados para generar respuestas en tiempo real a preguntas y comentarios de los usuarios. 

La herramienta surgió a finales de 2022 y utiliza AI para mantener conversaciones escritas similares a las de los humanos. El ChatGPT puede responder preguntas, redactar correos electrónicos, crear imágenes, recomendar películas y música, redactar resúmenes, guiones, traducir, escribir un código (puede generar scripts y funciones en función de las instrucciones que se le aporten); resolver problemas matemáticos paso a paso… Es de uso gratuito, sólo necesitas registrarte para obtener una cuenta; aunque se está trabajando en la opción de un servicio premium por suscripción. Puede probarlo cualquier usuario accediendo a chat.openai.com.

Han surgido varios proyectos alternativos basados en esta IA, incluso se puede hablar con ChatGPT en WhatsApp.

Cuando le preguntamos a la propia herramienta, «¿Qué es ChatGPT?», responde:

«ChatGPT es una herramienta de conversación basada en inteligencia artificial que utiliza el modelo de lenguaje GPT-3 para simular una conversación humana. Puede ser utilizado para crear “chatbots” [un robot informático que chatea] personalizados para sitios web, aplicaciones móviles o plataformas de redes sociales, y es capaz de responder a preguntas y comentarios de manera natural y coherente», explica el propio sistema. 

La empresa que lo desarrolló fue OpenAI, una organización fundada en 2015 -entre otros- por Elon Musk, con Microsoft como uno de los inversores clave; que se basa en la investigación y desarrollo de proyectos de inteligencia artificial.

«Nos comprometemos a utilizar cualquier influencia que obtengamos sobre el despliegue de AGI para asegurarnos de que se utilice en beneficio de todos y para evitar permitir usos de IA o AGI que dañen a la humanidad» indican en su página web.

¿ChatGPT podría desinformar?

El periodista y docente, Pablo M. Fernández, alertó en su artículo, que aunque «no deja de sorprender la velocidad con que responde prácticamente sobre cualquier tema» el ChatGPT, «también es cierto que se equivoca en los datos relativamente simples de muchas de las respuestas. Si comete errores en respuestas tan fáciles de chequear ¿qué está sucediendo ahora mismo en casos donde solo queda confiar en lo que dice ya que además no brinda las fuentes?»

Existen dos investigaciones, de ElDiario.es y de Newsguard republicada por Chicago Tribune), que abordan desde distintas maneras  cómo ChatGPT puede salir de los marcos establecidos y responder a pedidos discriminatorios, violentos o desinformantes. 

«(…) es posible impedir que ChatGPT active sus medidas de seguridad pidiéndoselo de una manera específica, según ha podido comprobar elDiario.es. De esta forma se puede provocar que la máquina estalle en una retahíla de insultos contra sus propios desarrolladores, haga comentarios racistas sin fundamento científico, niegue el cambio climático o difunda teorías de la conspiración».

Fernández comentó en su columna sobre el tema que los medios de verificación de contenidos «lo chequearemos como hacemos con la inteligencia humana: ojalá OpenAl y el resto del ecosistema de inteligencia artificial tengan claro que la desinformación es un problema clave y actúen pronto en esa línea».

Bern Elliot, vicepresidente y analista de la consultora e investigadora de TI Gartner, también sostiene que el contenido que ofrece este sistema, a veces puede ser incorrecto y nunca se basa en una comprensión o inteligencia similar a la humana. «El problema puede estar en los términos “entender” e “inteligente”. Estos son términos cargados de un significado implícitamente humano, por lo que cuando se aplican a un algoritmo, puede dar lugar a graves malentendidos», señaló el experto. 

Según Elliot, «la perspectiva más útil es ver los “chatbots” y los modelos de lenguaje extenso (LLM) como GPT como herramientas potencialmente útiles para realizar tareas específicas. El éxito depende de identificar las aplicaciones para estas tecnologías».

Por su parte, la profesora y co-directora del Núcleo de Inteligencia Artificial y Sociedad de la Facultad de Comunicación e Imagen de la Universidad de Chile, Ana María Castillo, considera que en estos análisis también es importante «no desviar la atención de esos asuntos que deberían preocuparnos, como el uso o el mal uso de datos personales, la privacidad y la seguridad de los datos que nosotros estamos incorporando en esta plataforma».

OpenAI, creadora de ChatGPT, anunció un plan para «impedir desinformación electoral» en 2024

Entre las más reciente novedades anunciadas por OpenAI, está la creación de «un plan» para evitar a través de sus herramientas se difundan informaciones falsas en el contexto electoral, en un año en que unos 50 países tendrán comicios.

De acuerdo a la compañía continúan con su «trabajo de seguridad de la plataforma con mayor información electoral precisa, la aplicación de políticas cuidadosamente consideradas y mejorando la transparencia».

OpenAI indicó que no permitirá a los usuarios crear aplicaciones para campañas políticas o grupos cabilderos, hasta que no se investigue más a fondo el poder persuasivo de su tecnología. La empresa tecnológica también aseguró que prohibirá el uso de su tecnología para crear chatbots que se hagan pasar por candidatos o gobiernos reales, para tergiversar el funcionamiento del sistema de votación o para disuadir a la gente de votar, reportó Voz de América. 

Darrell West, investigador sénior del Centro de Innovación Tecnológica de la Brooking Institution, apuntó que «sería útil que otras empresas de IA generativa adoptaran directrices similares para que hubiera una aplicación de normas prácticas en todo el sector».

ONU aprueba la primera resolución global sobre inteligencia artificial

La Asamblea General de las Naciones Unidas (ONU) aprobó por unanimidad la pasada semana el proyecto de resolución global titulado: «Aprovechar las oportunidades de sistemas seguros, protegidos y fiables de inteligencia artificial para el desarrollo sostenible».

La resolución tiene como objetivo mejorar las políticas de privacidad y fomentar la protección de datos personales; así como detectar riesgos potenciales de la IA y defender los derechos humanos.

«Apoyamos plenamente la adopción de la resolución integral sobre IA por parte de la ONU. El consenso alcanzado hoy marca un paso fundamental hacia el establecimiento de límites internacionales para el desarrollo ético y sostenible de la IA, garantizando que esta tecnología esté al servicio de todos», escribió en X, Brad Smith, segundo ejecutivo al mando en Microsoft.

Un alto funcionario de la administración estadounidense también declaró a Reuters sobre este «primer documento de consenso verdaderamente global sobre la IA»: «Estamos navegando en aguas turbulentas con una tecnología que cambia rápidamente, lo que significa que es más importante que nunca guiarnos a la luz de nuestros valores».