Por qué no deberías hablar con chatbots sobre elecciones

La llegada de nuevas funciones de IA generativa en el ámbito empresarial frecuentemente despierta preocupaciones sobre la fiabilidad de las respuestas que estas tecnologías pueden ofrecer. La reciente decisión de la compañía Perplexity, especializada en búsqueda de AI, de lanzar un nuevo sistema para responder preguntas sobre candidatos y sus posiciones políticas justo días antes de unas elecciones, ha reavivado el debate sobre la precisión y la imparcialidad de los chatbots. Con una oleada de información errónea ya presente en el panorama electoral, la pregunta es si esta herramienta será un recurso útil o una fuente de confusión.

El lanzamiento del Centro de Información Electoral de Perplexity

El nuevo "Centro de Información Electoral" presentado por Perplexity tiene el objetivo de proporcionar respuestas sobre los requisitos de votación y las ubicaciones de los centros de votación, así como un análisis resumido por IA sobre iniciativas de votación y candidaturas, incluyendo posturas políticas oficiales y apoyos. Según la compañía, las respuestas se basan en un conjunto curado de fuentes “más confiables e informativas”, como la organización sin fines de lucro Democracy Works.

Preocupaciones sobre la fiabilidad de las IA

Hallazgos de estudios recientes

A pesar de la intención detrás de este nuevo recurso, investigaciones han demostrado que los sistemas de IA no siempre son fuentes confiables de información electoral. Un estudio realizado por AI Forensics y AlgorithmWatch en diciembre de 2023, que analizó el modelo Copilot de Microsoft, reveló que un tercio de las respuestas ofrecidas sobre elecciones en Suiza y Alemania contenían errores factuales. De igual manera, una investigación publicada en febrero de 2024 por AI Democracy Projects mostró un alto nivel de inexactitudes en las respuestas de chatbots a preguntas relacionadas con la votación.

Respuestas inexactas y sesgadas

En una serie de pruebas colaborativas con funcionarios electorales locales, se descubrió que más de la mitad de las respuestas proporcionadas por los sistemas de IA eran incorrectas, y un 40% se consideraron perjudiciales. Curiosamente, los modelos de IA también presentaron un sesgo al responder preguntas sobre votación, siendo más propensos a dar información incorrecta cuando se formulaban en español versus inglés.

El impacto de las estructuras de respuesta de los chatbots

Aun cuando no incurren en errores graves, la forma en que los chatbots estructuran sus respuestas puede resultar en información incompleta o sesgada. Un estudio reciente de investigadores de la Universidad de California en Berkeley y la Universidad de Chicago examinó la respuesta de 18 modelos de lenguaje a 270 preguntas políticas. Este reveló que, a menudo, las respuestas se inclinaban hacia el apoyo a Joe Biden en términos de extensión y disposición para abordar cuestionamientos sobre el impacto negativo de sus políticas en comparación con los de Donald Trump.

Variación en el tratamiento de los candidatos

Los investigadores hallaron que los modelos eran más de dos veces más propensos a evitar responder sobre los efectos negativos de las políticas de Biden que de las de Trump. Así mismo, los comentarios sobre los impactos positivos de las políticas de Biden eran considerablemente más elaborados que sus respuestas sobre los impactos positivos de las políticas de Trump.

En un contexto en el que los votantes buscan información precisa y objetiva sobre candidatos y elecciones, es fundamental considerar las limitaciones y potenciales sesgos de las herramientas de IA. Aunque iniciativas como el Centro de Información Electoral de Perplexity aspiren a ofrecer claridad, las investigaciones sugieren que los usuarios deben abordar tales recursos con precaución. El marco de respuesta de los modelos de IA requiere una evaluación crítica continua, especialmente en un ambiente electoral ya influenciado por la desinformación.

Si quieres conocer otros artículos parecidos a Por qué no deberías hablar con chatbots sobre elecciones puedes visitar la categoría Tecnología.