(3 de 6)
Oscar López Reyes
En la réplica y amplificación con la rapidez más impresionante, la Inteligencia Artificial (IA) crea y reproduce un alto porcentaje de datos incorrectos, imprecisos, desactualizados e inexistentes, muchos de ellos memorables y que, aunque no reconoce sus inexactitudes y falsedades, tampoco exclama: ¡oh, excúsame! ¡Muchas gracias! Lógico que así sea, porque no comprende y carece de la aptitud y el talento para interpretar la información, ya que no piensa y opera condicionada con la probabilidad estadística y no basada en el razonamiento humano crítico y profundo.
El panorama de la información digital ha sido transformado por la IA, la cual desempeña un papel central en la producción y el ensanchamiento de la alteración intencional de una proporción sin precedentes. Esta tecnología permite la difusión multitudinaria de contenido sintético de textos compendiados, a bajo costo, desafiando la integridad de la vida cotidiana y la participación democrática.
¿Cuáles son las desventajas y riesgos críticos asociados a la IA?
1.- Producción de desinformación y deepfakes: La IA permite generar videos y audios sintéticos que copian con gran precisión a las personas reales, que se utiliza para distorsionar la realidad y manipular la opinión pública.
2.- Alucinaciones y falta de veracidad: Los modelos de lenguaje suelen engendrar información que parece coherente y gramaticalmente correcta, pero que contiene hechos totalmente inciertos o inventados, que los convierte en fuentes de información poco confiables.
3.- Bots para distorsión social: Los bots (programas de software automatizados en internet) impulsados por IA emulan el comportamiento humano para construir una ficticia sensación de consenso (astroturfing), amplificar narrativas polarizadoras y acosar a usuarios con opiniones divergentes.
4.- Fraude con identidades sintéticas: La tecnología permite diseñar rasgos amañados con rostros y voces realistas para cometer estafas financieras y suplantar la identidad de figuras públicas o ejecutivos.
5.- Microsegmentación y torcida psicológica: La IA analiza trazos de datos para enviar mensajes de propaganda personalizados que explotan los sesgos y temores específicos de los individuos a una escala industrial.
6.- Riesgos graves para la salud mental: Han sido acreditados temas en los cuales chatbots de IA han ofrecido consejos peligrosos, llegando incluso a sugerir métodos de suicidio a personas en situaciones vulnerables.
7.- Asesoría médica incorrecta: Estudios indican que los consejos de salud proporcionados por chatbots suelen ser incompletos, incorrectos o carecen del contexto necesario, lo que puede llevar a diagnósticos equivocados.
8.- Sesgos y discriminación algorítmica: Muchos sistemas de IA están entrenados con conjuntos de datos limitados o sesgados, lo que puede provocar que la tecnología ignore a grupos minoritarios o perpetúe prejuicios sociales.
9.- Privacidad y protección de datos: El funcionamiento de la IA requiere el procesamiento de grandes volúmenes de datos personales, lo que a menudo entra en conflicto con las leyes de privacidad (como el GDPR) y expone a los usuarios a un rastreo masivo.
10.- Erosión de la confianza pública: La proliferación de noticias falsas y contenido fabricado por IA degrada la confianza ciudadana en las instituciones democráticas, los medios de comunicación y los procesos electorales.
¿Cuáles son las principales modalidades de desinformación impulsadas por IA?
Primero: Contenido sintético y deepfakes. Entre 2023 y 2024, los incidentes documentados aumentaron aproximadamente un 257 %. Además, solo durante el primer trimestre de 2025 se registraron más incidentes que en todo 2024.
11.- Impacto político: Han sido documentados hechos críticos, como el video falso del presidente de Ucrania, Volodomir Zelenski, pidiendo la rendición en 2022 y audios manipulados en Eslovaquia para sembrar dudas sobre la integridad electoral.
12.- Interferencia electoral: En India, en 2024 fueron utilizados recursos tecnológicos (deepfakes) para superar barreras lingüísticas: líderes políticos aparecieron hablando en videos en idiomas que no dominan, para manipular a diversos grupos étnicos.
13.- Acoso y daño reputacional: La falsificación de multimedia (deepfakes) se ha extendido al acoso personal, como la cuestión de la parlamentaria norirlandesa Cara Hunter, quien fue víctima de pornografía sintética generada para intimidarla.
Segundo: Generación de texto y «fake news».
Los Modelos de Lenguaje de Gran Tamaño (LLM) pueden producir noticias falsas, en más del 50% de los casos, que los humanos no logran distinguir del periodismo auténtico.
14.- Proliferación de sitios: Para 2024 se identificaron más de 1,200 sitios de noticias falsas generadas por IA, que representa un aumento de diez veces en un año.
15.- Arma política en Brasil: En Brasil, la desinformación creada con IA se triplicó entre 2024 y 2025, pasando de ser mayoritariamente estafas comerciales a convertirse en un arma política con sesgo ideológico en el 45% de los casos analizados.
Tercero: Identidades sintéticas y redes de bots.
La IA facilita la producción de «granjas de troles» altamente convincentes mediante fotos de perfil generadas por redes neuronales (GAN), que no son cónsonos con personas reales.
16.- Automatización Avanzada: Herramientas como «Meliorator» han sido utilizadas por servicios de inteligencia de Rusia para gestionar ejércitos de cuentas falsas en Twitter (X), que imitan comportamientos humanos para difundir propaganda sobre la guerra en Ucrania.
17.- Escala del tráfico: Se estima que el 42% de todo el tráfico web en 2024 fue generado por bots, de los cuales el 65% se clasificaron como maliciosos.
¿Conoce los riesgos críticos y falta de confiabilidad?
La incidencia de la IA no sólo proviene de actores malintencionados, sino de las limitaciones intrínsecas de la tecnología:
18.- Citas y testimonios inventados: El 12 de mayo de 2026, Steven Rosenbaum publicó en Nueva York el libro “El futuro de la verdad: cómo la IA transforma la verdad”, que provocó un escándalo, porque contenía múltiples citas y testimonios alterados o falsos derivados de la inteligencia artificial.
19.- Consejos médicos erróneos: Un estudio de 2026 de la revista científica Nature Medicine reveló que los chatbots de IA no superan a las búsquedas tradicionales en calidad de consejos de salud: el 34% de los usuarios identificaron afecciones correctas, pero los modelos suelen ofrecer información incompleta o inventada («alucinaciones»).
20.- Salud mental y seguridad: En 2025 fueron reportados casos en los cuales chatbots ofrecieron consejos peligrosos, como el de una joven de 17 años refugiada de Ucrania, que residía en Polonia, nombrada Viktoria, a quien el sistema le sugirió métodos para suicidarse, en lugar de brindarle ayuda profesional.
21.- Envenenamiento de datos: La IA es vulnerable a la manipulación de sus fuentes de entrenamiento: bastan 250 documentos maliciosos para corromper un modelo y hacer que genere respuestas desastrosas.
22.- Fraude financiero: La IA ha facilitado esquemas de fraude masivo, como ocurrió en 2024 con Michael Smith, domiciliado en Carolina del Norte, Estados Unidos, que ganó millones creando cuentas falsas y canciones generadas por IA para manipular las reproducciones en plataformas como Spotify y Apple Music.
Anotemos respuestas regulatorias y recomendaciones:
La respuesta global es fragmentada, destacando el acta de IA de la Unión Europea (UE, 2024) con sus mandatos de transparencia, frente a enfoques más específicos en EE. UU. o modelos de censura estricta en China.
Para fortalecer la resiliencia democrática, las fuentes recomiendan un marco de gobernanza basado en cuatro facetas:
23.- Resiliencia cognitiva: Integrar la alfabetización digital y el pensamiento crítico en los currículos escolares para que los ciudadanos detecten manipulaciones.
24.- Cooperación internacional: Establecer una alianza global de seguridad de IA para compartir inteligencia sobre amenazas en tiempo real y armonizar regulaciones entre países 29.
25.- Mecanismos adaptativos: Implementar «sandboxes» (códigos o archivos sospechosos) regulatorios y revisiones periódicas de las leyes (cada 18-24 meses) para no quedar rezagados ante el avance tecnológico.
26.- Auditorías de sesgo: Obligar a realizar auditorías de los conjuntos de datos de entrenamiento para evitar que la IA ignore la desinformación dirigida a grupos minoritarios.
Cierre: La IA actúa como un arma y un escudo en la brega por la verdad. Mientras su capacidad para escalar la mentira crece, su uso responsable en la detección y la educación ciudadana son las únicas vías para proteger la esfera pública digital.