Cuando el Vaticano entra en el debate sobre la inteligencia artificial

Cuando el Vaticano entra en el debate sobre la inteligencia artificial

Hay algo profundamente revelador en el hecho de que el primer gran documento programático de León XIV sitúe a la inteligencia artificial en el centro de sus preocupaciones. No porque la Iglesia tenga una posición privilegiada sobre tecnología. Tampoco porque el Vaticano vaya a influir directamente en el desarrollo de los modelos de IA. Lo interesante es otra cosa. La inteligencia artificial ha dejado de ser una cuestión tecnológica para convertirse en una cuestión social que transciende.

Pensábamos que la conversación sobre IA pertenecía a laboratorios, universidades y empresas tecnológicas. Después llegó el debate regulatorio. Más tarde aparecieron las implicaciones económicas. Ahora observamos algo distinto. Instituciones cuya función histórica ha sido reflexionar sobre el ser humano, el poder, la moral o la organización social consideran que la inteligencia artificial merece una atención prioritaria. Y eso dice mucho más sobre la magnitud del fenómeno que cualquier benchmark o cualquier lanzamiento de producto.

La comparación que propone León XIV resulta especialmente sugerente. El siglo XX estuvo marcado por tecnologías cuya capacidad de transformación obligó a replantear cuestiones éticas fundamentales. La energía nuclear es probablemente el ejemplo más evidente. No porque fuera únicamente una innovación científica, sino porque introducía una nueva dimensión del poder humano. La inteligencia artificial parece ocupar hoy un espacio similar. No se trata solamente de una herramienta más eficiente. Se trata de una tecnología capaz de alterar la forma en que trabajamos, decidimos, nos informamos e incluso comprendemos la realidad.

Una de las palabras más llamativas del documento es «desarme». No porque el Papa proponga detener el progreso tecnológico, sino porque introduce una idea que hasta hace poco parecía reservada a los conflictos militares. Cuando hablamos de desarme asumimos que existe un riesgo asociado al uso de una determinada capacidad. Y la pregunta implícita es inquietante: ¿hemos llegado al punto en el que la inteligencia artificial necesita ser pensada en términos similares a otras tecnologías potencialmente peligrosas?

La preocupación no es teórica. Mientras gran parte del debate público gira alrededor de asistentes conversacionales, productividad o generación de contenidos, la carrera militar de la inteligencia artificial avanza a gran velocidad. Sistemas autónomos, drones inteligentes, plataformas de vigilancia masiva y herramientas de identificación automatizada ya forman parte de los programas estratégicos de las principales potencias. Estados Unidos y China compiten por el liderazgo tecnológico mientras otros países intentan no quedarse atrás. La lógica recuerda inevitablemente a otras carreras armamentísticas de la historia.

Lo verdaderamente novedoso es que estas tecnologías no solo ejecutan acciones. También toman decisiones. Analizan datos, detectan patrones, clasifican amenazas y priorizan objetivos. El riesgo señalado por León XIV no es únicamente la automatización del combate. Es la automatización del juicio. Un escenario donde las personas dejan de ser percibidas como individuos y pasan a convertirse en probabilidades estadísticas dentro de sistemas cada vez más complejos y opacos.

Pero quizá el aspecto más relevante del documento no sea militar. La encíclica dedica una atención considerable a la manipulación de la realidad. Los deepfakes, la generación sintética de imágenes y vídeos y la capacidad para fabricar discursos aparentemente auténticos plantean un desafío completamente nuevo. Durante siglos la verdad podía ser difícil de encontrar, pero normalmente existía un acuerdo básico sobre la naturaleza de las evidencias. Hoy estamos entrando en una época donde incluso las pruebas visuales empiezan a perder parte de su autoridad.

El problema se amplifica cuando estas capacidades se combinan con las redes sociales. Un deepfake aislado tiene un impacto limitado. Un deepfake distribuido a través de plataformas capaces de alcanzar millones de personas en cuestión de horas se convierte en otra cosa. La velocidad de propagación supera con frecuencia la velocidad de verificación. Y esa asimetría constituye uno de los grandes desafíos informativos de nuestro tiempo. La inteligencia artificial no inventa la mentira. Lo que hace es abaratarla, automatizarla y escalarla.

También resulta significativo que en la encíclica se introduzcan conceptos como «esclavitud digital» o «colonialismo digital». Son expresiones que podrían parecer exageradas si no fuera porque describen dinámicas cada vez más visibles. Detrás de los sistemas que utilizamos diariamente existe una enorme infraestructura humana compuesta por trabajadores que etiquetan datos, revisan contenidos, moderan materiales sensibles y realizan tareas esenciales para el entrenamiento de los modelos. La revolución tecnológica suele presentarse como una historia de algoritmos, pero continúa dependiendo de miles de personas cuya existencia permanece prácticamente invisible.

La idea de colonialismo digital apunta en una dirección similar. El poder de la inteligencia artificial no reside únicamente en los modelos. Reside también en los datos, la capacidad computacional y la infraestructura necesaria para construirlos. Hoy buena parte de esos recursos se concentra en un número extraordinariamente reducido de empresas y países. La cuestión ya no es quién posee el territorio. La cuestión es quién posee los sistemas capaces de interpretar el mundo digital.

Y eso nos conduce a una pregunta especialmente incómoda. ¿Debe una tecnología con semejante capacidad de influencia quedar concentrada en manos de tan pocos actores? Empresas como OpenAI, Google, Microsoft, Meta o Anthropic están definiendo buena parte del futuro tecnológico de la humanidad. No porque hayan sido elegidas para hacerlo, sino porque disponen de los recursos necesarios para construir los sistemas más avanzados. La concentración de poder siempre ha preocupado a las instituciones políticas. Quizá estemos empezando a descubrir que también debería preocuparnos en el ámbito tecnológico.

Hay además un detalle simbólicamente muy poderoso. La participación de investigadores como Christopher Olah en la presentación del documento refleja que la conversación sobre inteligencia artificial ya no pertenece exclusivamente a ingenieros, académicos o empresarios. Se ha convertido en una discusión transversal que involucra a filósofos, legisladores, economistas, educadores, líderes religiosos y ciudadanos corrientes. La IA está abandonando el ámbito de la innovación para entrar de lleno en el ámbito de la organización social.

Cuando el Vaticano entra en el debate sobre la inteligencia artificial

Quizá por eso el paralelismo con la Revolución Industrial resulta tan pertinente. Entonces las máquinas transformaron el trabajo físico y obligaron a redefinir leyes, instituciones y derechos laborales. Hoy las máquinas empiezan a transformar el trabajo intelectual. La pregunta ya no es si el cambio ocurrirá. La pregunta es si seremos capaces de construir las reglas necesarias antes de que la transformación alcance toda su velocidad.

Porque esa es, en el fondo, la cuestión que atraviesa toda la encíclica. No se trata de si la inteligencia artificial es buena o mala. Tampoco de si debemos adoptarla o rechazarla. La pregunta realmente importante es otra: si una tecnología puede influir en guerras, elecciones, mercados, empleos, información y opiniones, ¿seguimos pensando que basta con tratarla como un simple producto tecnológico?

Quizá la señal más relevante de todo este episodio sea precisamente que una institución con dos mil años de historia ha decidido que la respuesta es no. Que la inteligencia artificial ya no es únicamente una cuestión técnica. Es una cuestión política, económica, cultural y moral. Y cuanto antes asumamos eso, más posibilidades tendremos de influir en su desarrollo antes de que sea ella quien termine influyendo sobre nosotros.

No soy una persona religiosa y, probablemente, tampoco sea el perfil habitual de lector de una encíclica papal. Sin embargo, resulta difícil no encontrar algo revelador en el contraste que produce este documento. En una época dominada por líderes políticos cada vez más reaccionarios, por élites económicas obsesionadas con la rentabilidad inmediata y por una parte del sector tecnológico fascinada con la aceleración permanente, el hecho de que una de las voces más claramente humanistas provenga precisamente del Vaticano resulta, cuanto menos, llamativo. No porque la Iglesia tenga todas las respuestas. Tampoco porque deba convertirse en árbitro de la innovación tecnológica. Sino porque recuerda algo que a menudo desaparece del debate público: que detrás de cada avance técnico siguen existiendo preguntas sobre dignidad humana, poder, justicia y responsabilidad colectiva. Y que alguien siga formulándolas en voz alta empieza a parecer más excepcional de lo que debería.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *