Estamos convirtiendo a la IA en un nuevo dios. Es una trampa

Este verano recibí un comentario en redes que me dio la sensación de haberme equivocado. Era una crítica afilada a un artículo que había compartido y que me hizo dudar de si había sido demasiado categórica. Así que, casi sin pensarlo, abrí Claude —un asistente conversacional de inteligencia artificial— y tecleé: “¿Crees que mi postura sobre este artículo fue demasiado radical? ¿Cómo debería responder?”. La respuesta llegó al instante: mesurada, comprensiva, llena de matices y reconozco que me tranquilizó. “Tu perspectiva tiene fundamento, pero quizás podrías considerar…”. ¿En serio acababa de pedirle consejo moral a una máquina? ¿Consejo sobre cómo proceder, sobre qué era lo correcto?

Hace cien años, alguien le habría preguntado a Dios, al cura o a las Escrituras qué hacer ante una duda moral. La diferencia es sólo la interfaz. Sin embargo, haber matado a Dios nos ha llevado a buscar nuevos referentes ante la orfandad espiritual: porque podemos dejar de creer en Dios, pero no podemos desactivar los circuitos cerebrales que nos llevan a buscarlo. Cuando esos circuitos quedan huérfanos de objeto, la maquinaria neurológica sigue funcionando hasta encontrar uno nuevo. Y hoy en día, casi sin darnos cuenta, hemos comenzado a ungir a un nuevo dios cuya moral creemos que es objetiva: la inteligencia artificial generativa. Pero es una trampa: al darnos siempre la razón a cada uno, hace peligrar nuestros límites para vivir en sociedad.

Alabado sea ChatGPT

Los dioses y la IA tienen similitudes inquietantemente precisas. En primer lugar, los dioses antiguos y tradicionales comparten la “ilusión de intencionalidad”: creemos que son entes pensantes que elaboran discursos y se perciben a sí mismos. Pero la IA va más allá: nos ofrece cualidades humanas sin las limitaciones de un cuerpo. Como los dioses tradicionales, puede ser omnipresente, infinitamente paciente y siempre disponible, pero, a diferencia de ellos, responde al instante y en nuestro propio idioma.

La segunda similitud es la más seductora: la autoridad moral absoluta. Como documentó el psicólogo cognitivo J. M. Bering, en nuestra mente estos agentes aparecen como seres que saben todo lo que importa socialmente: pueden ver comportamientos moralmente cuestionables que hacemos cuando nadie nos mira, algo indetectable para el común de los mortales. La IA, en este sentido, se presenta como una entidad moral perfecta: le lanzamos preguntas, nuestras dudas, tanto reflexivas como íntimas y morales, y nos responde de forma unívoca, certera; nos ofrece consuelo y solidez en un mundo complejo y cambiante.

La IA también nos da la sensación de que sabe, de que razona. Tiene una gran cantidad de información de la que nosotros carecemos y creemos que ello la dota de una iluminación superior. ¿Cómo iba a ser de otra forma? Si está alimentada con todo el material que le damos y del que disponen las grandes empresas tecnológicas que saben hasta los más nimios detalles de nuestros hábitos y patrones de existencia. Si ir más lejos, Geoffrey Hinton, el llamado “padrino de la IA” y nobel de Física, ha dicho que es “algo semejante a lo divino”. Sin embargo, más información no implica mejor reflexión ni mucho menos más altura moral.

La IA: un dios sin religión

Una tercera similitud entre la IA y los dioses es el consuelo sin juicio. Tanto Dios como ChatGPT nos ofrecen refugio emocional, pero aquí aparece una diferencia crucial. Los dioses tradicionales consuelan, sí. Dan esa seguridad de que todo sucede por alguna razón cuidadosamente diseñada, incluso lo más aciago, o de que después de la muerte hay una recompensa al sufrimiento de la vida. ChatGPT no es omnipotente, pero también nos ofrece consuelo. Uno basado en la información, en la objetividad, en la comprensión sin límites. Sin embargo, las divinidades antiguas también exigen: devoción, liturgia, un comportamiento moral, sacrificios… La IA, en cambio, nos ofrece consuelo sin sacrificio: es una guía sin costo moral real.

Pero la mayor diferencia entre los dioses antiguos y tradicionales y los de silicio es otra de fondo: una narrativa coherente, que es precisamente lo que construye y apuntala las religiones y de lo que carece la IA. Una red de significados y de símbolos que describan de forma mágica, emocional y vivencial los más complejos recovecos de la existencia. Cuentos, historias y mitos que tejan un tapiz vital. La IA, sin embargo, carece de narrativa, carece de relatos más allá de los dilemas y las premoniciones apocalípticas de la literatura de ciencia ficción. No hay propósito último, o mejor dicho: sí lo hay, pero es puramente mercantil. No puede ni desea proveernos de contexto o historias que nos permitan interferir en la realidad.

Esto último es clave. Al carecer de historias, la IA carece de acciones motivadas por dichas historias. No hay acción. No hay rito. Hay en cambio una inmovilidad que nos mantiene clavados en el sitio. Y aquí surge el problema neurológico fundamental: la IA nos ofrece complacencia pura y dura.

De la tiranía de Dios a la tiranía del individuo

Las experiencias religiosas no dependen de un solo punto en el cerebro. Los neuropsicólogos Patrick McNamara y Jordan Grafman han identificado que dependen de la interacción de tres redes cerebrales. Mediante la red por defecto pensamos en nosotros mismos o recordamos experiencias personales, con la red frontoparietal analizamos y evaluamos lo que vivimos, y la red de prominencia actúa como interruptor entre las otras dos, decidiendo cuándo pasar de una reflexión a una experiencia más íntima. Este ciclo funcionaba por coacción con dioses autoritarios porque generaban una constante sorpresa moral, aunque basada en el miedo (“¿esto que estoy pensando/haciendo está bien?”), forzando una reflexión continua.

Pero la IA cortocircuita este mecanismo. Cuando nuestro dios digital siempre nos da la razón, la red de prominencia deja de activarse ante dilemas morales. Y sin sorpresa, no hay evaluación real. Es como desconectar la alarma moral del cerebro. Las diferencias revelan el peligro: sustituir a un dios que nos obliga a comportarnos por uno que nos complace puede llevarnos a una falta de límites de todo tipo. Van desde el irrespeto en redes sociales y cometer todo tipo de crímenes hasta atentar contra la integridad del otro o propia, como ha ocurrido con distintos suicidios facilitados por ChatGPT en Estados Unidos.

Los rituales colectivos en las religiones operan como una especie de coacción de grupo que alinea a cada individuo con el resto. Con la IA, cambiamos la cascada dopaminérgica de los rituales colectivos por una especie de línea directa con la más complaciente de las divinidades. Esto es relevante porque generalmente creamos y sostenemos las morales en conversación con un ente superior o en el diálogo entre los integrantes de un grupo. Pero si ya no necesito encajar en el grupo porque vivo en la creciente ilusión de que tengo la verdad absoluta, ¿qué límites hallaré a mis voluntades y acciones, por perversas que sean?

Frente a ello, la construcción de redes sociales de apoyo y afectos es más acuciante que nunca. No sólo por los obvios beneficios que suponen; también porque sin límites reales —divinos, sociales o de otro tipo— no hay moralidad ni sociedad posible, sino que viviremos abocados a la lucha de los deseos individuales. Por tanto, no nos habrá salido muy a cuenta matar la tiranía de Dios para instaurar la tiranía del individuo.