El papa entró a Silicon Valley: Lo que puede ir bien y lo que puede salir muy mal.

Me enteré de este tema en una conversación de almuerzo con mis compañeros de trabajo. Alguien mencionó que el Papa había publicado un documento sobre inteligencia artificial, y la mesa entera se quedó en silencio por un momento. Me pareció relevante y curioso que una autoridad religiosa de tanto peso estuviera tomando posición en los asuntos de la tecnología.

A finales de mayo de 2026, el papa León XIV publicó la encíclica "Magnifica Humanitas" el 25 de mayo, con el objetivo de advertir sobre los riesgos de lo que él describe como la "guerra digital": el peligro de que la inteligencia artificial llegue a dominar lo humano en lugar de servirlo.

Y resulta que el Papa no fue el primero en moverse. El 30 de abril, en Nueva York, ocurrió el "Faith-AI Covenant": un acuerdo en el que líderes de grupos religiosos (Hindu, Sikh, Cristiano ortodoxo, Santos de los Últimos Días y Bahá'í) se reunieron con empresas como Anthropic y OpenAI con un objetivo concreto: incorporar moralidad y ética en los parámetros de la inteligencia artificial.

Los parámetros son, en términos simples, las instrucciones y valores que le dicen a una IA qué puede y qué no puede hacer. Piénsalos como las reglas de una empresa que un empleado debe seguir solo que en este caso, el "empleado" es un programa que aprende de millones de ejemplos y toma decisiones a una velocidad que ningún humano puede igualar.

Establecer esos parámetros es urgente. Una IA aprende a través de patrones: entrenarla significa darle millones de ejemplos para que reconozca cómo funciona el mundo. Igual que un niño aprende a identificar un perro después de ver muchas fotos de perros. El problema es que cualquier persona con motivos malévoles puede entrenar una IA para cometer actos dañinos contra personas, corporaciones o países enteros. El único freno entre ese escenario y la realidad es bloquear cambios no autorizados en los parámetros de los modelos y crear sistemas que limiten la posibilidad de que un actor malintencionado los manipule.

No es la primera vez que la Iglesia adopta tecnología con fines espirituales. El 25 de diciembre de 1995, la Santa Sede lanzó el sitio web www.vatican.va, un movimiento que para entonces fue revolucionario: la Iglesia Católica llevando su doctrina al mundo digital. Ese paso impulsó a otras instituciones religiosas a hacer lo mismo.

Pero esta vez el movimiento es diferente. Antes, las instituciones llegaban tarde a la tecnología y la adoptaban para comunicarse. Ahora, están llegando temprano para dar forma a cómo esa tecnología funciona desde adentro.

Lo más curioso es lo que implica que instituciones religiosas entren a este debate. No se trata solo de tecnología, se trata de confianza. Cuando una Iglesia o una comunidad religiosa pone sus valores dentro de un modelo de IA, los usuarios tendrán que decidir si confían en esa institución para guiar también su experiencia tecnológica. Eso inevitablemente abre preguntas sobre creencias, fe y la autoridad moral de esas organizaciones.

¿Cómo sabremos qué parámetros le otorgarán a los nuevos modelos? Pensemos en escenarios hipotéticos: una empresa lanza un modelo llamado "AI.kosher.2.5" con parámetros que respetan las leyes judías, y el modelo no te responde durante el Shabbat. Otro modelo no te permite preguntar sobre doctrinas de otras religiones. Un tercero limita el acceso a ciertas respuestas basado en género o identidad.

Estos no son escenarios de ciencia ficción , son consecuencias lógicas de permitir que entidades con doctrinas específicas controlen los valores de un modelo de IA sin supervisión externa.

A lo largo de la historia, muchas instituciones religiosas tuvieron un impacto positivo en la moral de las sociedades. La ley estadounidense, por ejemplo, tiene raíces en principios como no matar, no robar, no cometer injusticia. Principios que inspiraron códigos que muchos países adoptaron por la estabilidad y justicia que generaron. Pero historia positiva no es garantía de supervisión neutra.

El verdadero problema es de organización. La tecnología se mueve tan rápido que los desarrollos y las implementaciones llegan antes de que alguien pueda evaluarlos. No existe hoy una entidad global dedicada a establecer reglas claras sobre los límites del uso de la IA.

Me hace pensar en la creación de la ONU: fundada después de la Segunda Guerra Mundial con el objetivo de que las naciones se unieran para evitar que el caos y el conflicto volvieran a escalar. Países, entidades morales y organizaciones comprometidas con el futuro deberían crear algo equivalente para la IA. Algo que defina estos parámetros con independencia de las compañías o los gobiernos que los desarrollan. Organizaciones como el IEEE (el Instituto de Ingenieros Eléctricos y Electrónicos, una de las instituciones más respetadas en estándares técnicos y éticos del mundo tecnológico) son un buen punto de partida, pero hacen falta más voces, incluyendo voces latinoamericanas.

Hoy, los agentes de IA, programas que no solo responden preguntas sino que toman acciones por su cuenta, como reservar una cita o completar tareas en tu computadora, están transformando trabajos y sectores enteros. Los que tienen acceso al conocimiento para usarlos bien tendrán ventaja. Los que no, quedarán atrás.

Por eso existe The Enhanced: para ayudar a los latinoamericanos a aprender, adaptarse y mejorar sus capacidades, de modo que puedan aprovechar las oportunidades tecnológicas que pueden mejorar su vida profesional y personal.

Como editorial, discutimos ideas para usar la tecnología de manera ética. Al final, la decisión sobre qué es bueno o malo en este espacio está en manos del colectivo: la comunidad tecnológica, la sociedad civil y quienes crean las leyes. Y todo empieza con compartir una idea.

1. Vatican News. (25 de mayo de 2026). "Magnifica humanitas", la primera encíclica de León XIV. Vatican News. https://www.vaticannews.va/es/papa/news/2026-05/papa-leon-xiv-primera-enciclica-magnifica-humanitas.html

2. Fast Company. (2026). OpenAI, Anthropic meet with religious leaders at 'Faith-AI Covenant.' Fast Company. https://www.fastcompany.com/91538977/openai-anthropic-just-met-religious-leaders-faith-ai-covenant-heres-why

3. Wikipedia. (s.f.). Vatican.va. Wikipedia. https://en.wikipedia.org/wiki/Vatican.va