IA, posverdad y la pérdida de humanidad

Historias humanas sobre la IA. Suscríbete y consíguelo en papel o digital en nuestro kiosco. ¡Gracias!

La mayor parte de la vida se cimenta en el consenso. Si me duele la garganta y voy a urgencias, mi proceso a la hora de sanar estará hecho de consensos: como no tengo coche, me llevará mi vecino al hospital presuponiendo que no le miento y basándose en un acuerdo mutuo de respeto y colaboración llamado amistad. Una vez allí, la enfermera que me haga el primer informe creerá en los síntomas que le describo y la médica de guardia, a partir de esas ideas comunes, me atenderá hasta producir un diagnóstico, lo cual es también otro consenso, esta vez científico, elaborado durante décadas, respecto a la amigdalitis. El farmacéutico me dará los antibióticos, conforme con la receta de la médica, y yo, gracias al encadenamiento de verdades, podré recuperarme felizmente. 

Este ejemplo simple demuestra el poder de la verdad compartida no sólo con un fin sanitario, sino como herramientas de engranaje humano y construcción de colectividades. Normalmente, cuando el consenso va rompiéndose –digamos uno grande: el paso del politeísmo al cristianismo en el imperio romano, o el fin de la esclavitud–, independientemente de cómo valoremos hoy su calidad moral, lleva años mudar de paradigma, los que requiere que la mayoría esté de acuerdo. Podremos haber llegado a buen puerto o no, pero se habrá mantenido al menos parcialmente unido el tejido social en torno a nociones que construyen subjetividades hermanadas, interdependientes.

En los últimos años, la noción de verdad ha sufrido sacudidas calamitosas que nos desplazan a un terreno fangoso donde abundan la atomización y el miedo. En Europa, durante la primera década del siglo XX, se fracturaron los consensos alrededor de la dignidad humana a fuerza de sofisticados sistemas de propaganda a favor del fascismo. La tragedia es sobradamente conocida, pero uno podía cambiar de país –como el filólogo judío Víctor Klemperer describe en sus libros–, o sumarse a la resistencia, y pelear por ciertos valores.

En la actualidad, la desestabilización que provoca la posverdad no tiene parangón en la historia, porque el régimen de mentira que nos subsume es totalizante, abarca múltiples continentes y millones de personas aglutinadas en torno a un oligopolio de empresas tecnológicas; lo llevamos pegado a las manos en forma de teléfono vigilante; y lo hemos incorporado a unas entrañas cognitivas que ya no son tan efectivas, que pierden memoria y concentración a raudales conforme los algoritmos nos tornan menos inteligentes, adictos y vulnerables. 

El experimento apenas regulado de las redes sociales ha destrozado la salud mental de montones de adolescentes, y ha logrado convertir la psicología del mundo en un pedazo de carne cuantificable para el beneficio de las élites, minando asimismo certezas que juzgamos inexpugnables, como la democracia. Las plataformas digitales promueven mensajes dañinos, violentos, y se apropian de nuestros instintos para luego modificar comportamientos individuales, tan susceptibles a la manipulación.

Pero, ¡ah!, las redes, hasta ahora, no eran capaces de generar barbaridades; alguien tenía que fabricarlas y luego la digitalización se encargaba de su difusión y el pastoreo selectivo de usuarios. Lo que está ocurriendo con la inteligencia artificial generativa amplifica el nivel de riesgo de falsedad en cuanto que la máquina aprende en una dinámica de retroalimentación imparable, sin supervisión, y en esa burbuja perniciosa salta por los aires cualquier consenso social, cualquier apego al prójimo y ensamblaje político, exceptuando el que la propia política impulsada por los magnates tecnológicos promueva. En otras palabras, eliminando la posibilidad de verdad, también se erradica la de disenso; sólo queda el caos, la alucinación y el delirio.

Cuando, el pasado febrero, JD Vance, el vicepresidente de EE. UU., acudió a la cumbre por la inteligencia artificial en París, su discurso desplegó algunas pistas sobre un futuro tan enceguecido y pavoroso que cuesta trabajo imaginarlo. Reclamó una IA libre de toda restricción y «censura autoritaria», situando el papel del autoritarismo en las demandas democráticas de cientos de millones de europeos y no en el núcleo duro de Silicon Valley, la minoría que pretende imponer las normas al resto. Habló de promover la «revolución» algorítmica, obviando que las revoluciones, hayan sido burguesas o proletarias, en una estricta definición que cualquier politólogo suscribiría, erupcionan con la subversión de una masa descontenta contra élites, y no al contrario.

Por último, expresó la obligación de una «libertad de expresión» entendida como el «mercado abierto de las ideas», sin importar su legitimidad, si éstas provienen de reputadas expertas, de charlatanes o de bots comprados por la ultraderecha. Aludiendo a las «ideas» en competición comercial situaba los resultados de sesudos estudios, las tergiversaciones interesadas, las fotos o los vídeos falsos en un mismo estercolero. Todo vale, en principio, cuando no hay principios: los derechos humanos y los arrestos arbitrarios sin pruebas, el reportaje de un medio serio y la mendacidad de un bocazas a sueldo. Con la diferencia, claro, de que la propia tecnología prioriza su agenda y, en consecuencia, algunas ideas son más iguales que otras, que diría Orwell.

Así que, dentro de pocos años, podrá darse la más que probable situación de que la IA, a base de alimentarse de negacionismo climático y loas al Holocausto, por ejemplo, responda a nuestras preguntas sugiriendo talar todos los árboles y alabar los abusos concentracionarios. El nuevo régimen (des)informativo, montado sobre tecnología puntera, no permitirá ninguna discrepancia, ya que no habrá canales favorables desde los que oponerse, ni comunidad que arrope al disidente, ni, por supuesto, marco jurídico garantista –otro «relato» sometido a la compraventa desigual–. El nuevo régimen será tan inteligente e innovador que habrá abolido el conocimiento, los procesos pedagógicos habituales y hasta los idiomas comunes. Esto no es una visión distópica, ni siquiera una profecía, sino la estimación lógica que se deriva de un statu quo anunciado a bombo y platillo, retransmitido y viralizado por los representantes de la hegemonía mundial. Tal vez entonces no sea preciso acudir a urgencias ante la más mínima dolencia, pues habremos perdido ya toda humanidad.