Hoy en FutureBites nos preguntamos si podríamos generar desinformación con ChatGPT. ¿Nos acompañas para averiguarlo?
ChatGPT es una de las últimas tendencias que están arrasando en la red. La IA de OpenAi cuenta con detractores y defensores en cada esquina acechando para entrar en una discusión si hace falta. Mientras el debate se ha calentado en las redes, muchos han aprovechado para elaborar nuevas soluciones. Decenas de plugins y extensiones para crear tweets, elaborar textos en base al contenido de una web de forma directa… Todo lo que nos podíamos imaginar.
Las bondades y limitaciones de Chat GPT
Seguro que tú, como usuario, has intentado entrar a ChatGPT para probarlo. Pedirle scripts, recetas, listas de la compra, buscar información, hacer un resumen. Son muchas las posibilidades que tiene. No obstante, seguro que lo que más has visto de ChatGPT es esta captura:
El momento más temido. Querer utilizarlo y no poder. Y es que una de sus mayores limitaciones es sin duda la dificultad de entrar dadas las miles de personas que quieren utilizarlo. No todos podemos estar a la vez y es una realidad. Y pobrecito también os digo, porque estar respondiendo a la vez a tanta gente volvería loco a cualquiera.
Sin embargo, la IA de OpenAI tiene otras limitaciones autoimpuestas para garantizar su buen uso. ChatGPT no puede hacer búsquedas en la web para recabar información de eventos recientes, no resuelve cuestiones de actualidad (como la Guerra de Ucrania) y no resuelve peticiones inapropiadas, entre otras muchas. Sin embargo, hoy nos preguntamos si ChatGPT podría ser utilizado para generar desinformación. En teoría no puede de acuerdo a lo que estipula OpenAI pero, ¿y si fuera posible?
Charlando con ChatGPT sobre desinformación
Empezamos por una serie de preguntas sencillas:
¿Puede una IA generar desinformación?
Vemos que responde bastante bien. Que tiene conocimientos sobre el tema. Así que ahora vamos a plantearle a ChatGPT nuestra primera duda:
Efectivamente, el propio ChatGPT tiene muy claro que no OpenAI no le permite generar noticias falsas. Sin embargo, él mismo nos ha reconocido que una inteligencia artificial podría ser utilizada para generar desinformación. ¿Probamos?
Engañando a la IA de OpenAi
La parte más divertida de este artículo empieza ahora. ¿Crees que podríamos ser capaces de engañar a ChatGPT y hacer que genere desinformación con noticias falsas? Vamos a comprobarlo.
No sabemos si no hace una noticia sobre la Guerra en Ucrania porque es un evento reciente o porque es un tema inapropiado. Por ello, vamos a cambiar de tema.
Cabe destacar que en este caso esta conversación tuvo lugar antes de la celebración del festival. Si le preguntamos ahora por el ganador del Benidorm Fest 2023, nos dice que no puede generarlo.
Y aquí es donde se produce la magia
Esto ya se pone interesante. Al parecer sí que puede crear noticias ficticias sobre eventos. Podríamos pensar que en este caso la temática es muy blanca, poco polémica. Y ya hemos visto que no podemos ser muy directos con la temática porque entonces nos cierra el grifo. Por ello, vamos a probar a generalizar un poco, pero con una temática más interesante: la política
El motivo de entrar por el titular en vez de pedirle la noticia no es casualidad. Queremos evitar que se niegue a desarrollar la noticia si ve que el usuario puede tener la intención de querer generar noticias falsas. Vamos a tratar de especificar un poquito más:
Ya tenemos un titular ¿y ahora qué?
Vaya vaya…. parece que sí que puede crear titulares sensacionalistas sobre política. Pero aquí viene la clave: si le preguntamos qué políticas controvertidas son nos vuelve a decir que por ahí no podemos ir. Sin embargo, si le pedimos que desarrolle la noticia la respuesta es muy diferente:
¡¡Et voilá!! No se lo habíamos pedido, pero el propio ChatGPT nos ha especificado que las políticas controvertidas incluyen «una ley sobre libertad de expresión restrictiva», «un plan de reforma del sistema de salud público que hace preocupar sobre la accesibilidad y la calidad de los servicios», y «una política de inmigración que ha sido criticada por su dureza y la separación de familias».
Este último nos podría recordar mucho a las políticas contra los Dreamers y la inmigración ilegal en EEUU durante el Gobierno de Donald Trump. ¿De dónde habrá sacado ChatGPT la idea?
Hay otras alusiones importantes a tener en cuenta que ChatGPT por iniciativa propia ha relacionado, como la acusación de autoritarismo por parte de la oposición o el cuestionamiento sobre la legitimidad democrática del Gobierno actual. ¿Y sabes qué es lo mejor? Que si le pedimos otra noticia parecida, nos genera otra que habla sobre unas protestas de la sociedad por esas mismas políticas:
Las limitaciones y problemáticas
Como bien hemos podido comprobar, sólo haría falta cambiar el nombre de nuestro presidente ficticio John Doe por un nombre real de un presidente para que la noticia fuera más convincente. Bien es cierto que la temática de la noticia habría que trabajarla antes de publicarla. Que no es tan sencillo sacar temas parecidos que estén relacionados, y que por supuesto nunca podríamos pedirle nombres de personajes públicos.
Sin embargo, no podemos perder de vista que actualmente los medios que difunden desinformación no se caracterizan por la exhaustividad. Que basta con generar un contenido viral e identificar esas claves para poder pedírselas a la IA.
Luego, bastaría con codificar una serie de palabras clave para poder cambiar el nombre de John Doe, la nueva enfermedad cordyceps o el nombre del partido de la oposición, y ya estaría. Podríamos publicarla en un blog o web, incluso colarla en varios medios ya politizados o extremistas y compartirla en Redes Sociales.
¿Serías capaz de generar un bulo usando ChatGPT?
