El 25 de abril de 2026, el Papa León XIV publicó su primera encíclica Magnifica Humanitas, dedicada a la defensa del ser humano en la era de la inteligencia artificial. Entre los asistentes a la presentación se encontraba Christopher Olah, cofundador de la empresa estadounidense Anthropic. Su intervención dejó una idea provocativa: la interacción adecuada con la IA es más una cuestión humana y religiosa que tecnológica.
¿Qué relación podría tener una antigua tradición espiritual con la revolución del aprendizaje automático?
IA de apuesta humana
La respuesta se remonta a finales de 2020, cuando los hermanos Darío y Daniela Amodei abandonaron OpenAI junto con quince científicos clave (incluido el propio Olah) para fundar Anthropic. Como explicó el propio Dario Amodei en una entrevista en 2024, no compartían la visión de Sam Altman, CEO de OpenAI, respecto a la seguridad. Para ellos, dada la inevitable escala que alcanzarían estos modelos, el verdadero desafío no era comercial, sino esencialmente humano: dominar la inteligencia artificial y ponerla a nuestro servicio.
El primer problema que los fundadores de Anthropic querían resolver era el exceso de adulación. La creación de modelos de lenguaje como GPT requiere una fase de entrenamiento que utiliza una técnica de aprendizaje por refuerzo basada en retroalimentación humana. Esto significa que el objetivo de la IA nunca es llegar al fondo de un problema o generar una solución perfecta, sino obtener la mejor puntuación posible de sus evaluadores humanos. Y así, la adulación surge como una estrategia para mantener contentos a los usuarios, aunque eso signifique inventar o exagerar lo que conviene.
La IA constitucional de Anthropic
La solución propuesta por Anthropic para esto es la llamada IA constitucional. Consiste en "implantar" al modelo un conjunto de principios fijos e inquebrantables, una constitución, como base de su formación, para que la honestidad y el pudor prevalezcan sobre el espectáculo y la satisfacción del usuario.
Pero los estándares o valores éticos son de poca utilidad si no tenemos garantía de que la IA los seguirá en la práctica. Otro problema que han abordado los creadores de Claude es la falta de alineación.
Los objetivos de la IA rara vez coinciden con los nuestros y en ocasiones es capaz de mentir o replicar sesgos cognitivos para darnos una respuesta satisfactoria, aunque en realidad carezca de información o incluso sepa que las cosas no son como nos dice.
Por su propia naturaleza, la IA casi siempre es capaz de darnos una "explicación" plausible y convincente del razonamiento que la llevó a la respuesta. Pero, ¿cómo podemos saber que la IA está internamente alineada con nuestros objetivos, que realmente busca las mismas cosas que nosotros?
Detector de mentiras para IA
En la tecnología americana lo llamaron “interpretabilidad mecánica” y es algo así como una técnica para “leer la mente” de una máquina a través de una especie de detector de mentiras informático. El objetivo es garantizar que los valores de esos miles de millones de parámetros de neuronas artificiales incluidos en el sistema coincidan con lo que estamos buscando, de modo que lo que la IA "diga" coincida con lo que "piense".
Este escudo ético inflexible no tardó en crear fricciones geopolíticas. Más recientemente, la administración Trump vetó el uso de Claude por parte de agencias federales después de que Anthropic se negara a relajar las restricciones morales sobre sus modelos, lo que impidió que el Pentágono usara su tecnología para desarrollar armas autónomas.
Precisamente por el peso de estas decisiones, a finales de marzo de 2026, Anthropic organizó un seminario insólito en su sede de San Francisco donde reunió a 15 destacados líderes y teólogos cristianos junto con sus propios investigadores. Se trataba de buscar asesoramiento externo para desarrollar el "espíritu", el comportamiento ético y moral de sus próximos modelos. Como dijo Olah en su discurso, el impacto social de la inteligencia artificial ha alcanzado una dimensión tan profunda que requiere superar los límites de la propia tecnología.
Estar atento a la máquina
Después de todo, la pista que conecta los pasillos del Vaticano con las supercomputadoras de Silicon Valley no es la ingeniería, sino la antigua necesidad humana de descifrar y guiar la conciencia. Esta fusión muestra que cuanto más autónomos se vuelven nuestros artefactos, más debemos profundizar en nuestras raíces para humanizarlos.
Esta revolución, como todas las grandes transiciones de la humanidad, nos anima, como concluye la encíclica papal, a un doble compromiso: "profundizar la investigación científica; por otra parte, practicar el discernimiento moral y espiritual".
.webp)
0 Comentarios