Magnifica Humanitas, la encíclica que abre un nuevo debate sobre la IA y el futuro de la humanidad

La presentación de la primera encíclica del Papa León XIV titulada Magnifica Humanitas (“Magnífica Humanidad”), ha llamado profundamente la atención a nivel mundial. Es un documento histórico de poco más de cien páginas en las que el pontífice aborda diversos aspectos relacionados con el pensamiento evangélico y la Doctrina social de la Iglesia, pero todos ellos funcionan como marco introductorio para examinar los desafíos éticos, sociales y políticos que plantea la modernidad presidida por la Inteligencia Artificial (IA).

Al denunciar de manera frontal los peligros que entraña la inteligencia artificial para la humanidad, se ha convertido de inmediato en un texto polémico, desmentido por las empresas tecnológicas y aplaudido por diversos sectores que comparten las mismas preocupaciones.

Aunque no marca explícitamente ninguna prohibición como la que hizo famosa la Humanae Vitae (1968) de Pablo VI (catalogada unánimemente como la encíclica más controvertida del siglo XX al condenar el uso de anticonceptivos), o la Evangelium Vitae (1995) de Juan Pablo II, que reprobaba de forma tajante el aborto, la eutanasia y los métodos de reproducción asistida, tildándolos de parte de una “cultura de la muerte”, sí hace un planteamiento muy duro sobre el horizonte tecnológico en el que nos encontramos: “desarmar” la inteligencia artificial.

Se “tiene más”, pero no se “es más”

La premisa de León XIV es que “si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene más”, pero no se “es más”, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece”.

Pero quizás su crítica más severa tiene que ver con el fundamento social y económico de las novedades tecnológicas que estamos experimentando: “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”.

Y es ahí donde según León XIV es preciso tomar en cuenta “los grandes principios de la Doctrina social”, que son los que pueden hacer valer “la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social”.

El tratamiento de la encíclica en torno de la lA es sumamente cuidadoso, mucho más de lo que sus críticos han admitido. Incluso también los términos en los que se refiere a las empresas tecnológicas no tienen la beligerancia que algunos, abusivamente, le asignan. Por ejemplo, la encíclica no utiliza literalmente la palabra "tecnofascismo". El uso de este término ha sido una "licencia" poco seria que han tomado algunos entusiastas que quieren presentar este documento como un auténtico manifiesto contra Silicon Valley.

Acerca de los sistemas de IA, el Papa señala: «…todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. En consecuencia, los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”».

La IA no es neutra

Para el documento del Vaticano es claro que “no podemos considerar a la IA como moralmente neutra”. Curiosamente, esa es una idea que han tenido diversos pensadores ateos o marxistas, como Herbert Marcuse, quien decía en El hombre unidimensional que la tecnología se había convertido o era generada como un instrumento de dominación política en el capitalismo, capaz de moldear el pensamiento humano para crear una sociedad conformista.

El Papa dice:

«En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es un simple instrumento que “hay que usar correctamente”; introduce ya un criterio que contradice la dignidad inalienable de la persona. Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían».

Por supuesto, la preocupación medular de León XIV es el uso militar de la IA, señalando claramente que “los algoritmos no hacen que la guerra sea moralmente aceptable”, por lo que aquí sí plantea un desarme total en materia de la automatización bélica que decide sobre la vida o muerte de millones de pesonas teniendo las consideraciones algorítimicas como único criterio.

La prensa internacional y diversos críticos –incluidas las grandes corporaciones tecnológicas– han resaltado, no siempre con una correcta interpretación, el planteamiento del Papa acerca de “desarmar” la IA. La encíclica es por sí misma suficientemente precisa en su parágrafo 110, uno de los más emblemáticos:

“Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora”.

Desinformación y nuevos esclavitudes

Las tesis centrales de la encíclica giran alrededor de la IA pero sin perder de vista la dimensión social, política y económica. Es una encíclica bastante rica en observaciones críticas acerca del mundo actual, prefigurado sin duda por las nuevas tecnologías.

Sobre la desinformación y su uso político, León XIV apunta:

“El uso de las plataformas digitales y los sistemas de IA acelera los profundos cambios en la comunicación pública y política. Herramientas que podrían favorecer el debate y la participación se utilizan a menudo para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso, mezclando datos y opiniones. La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y vídeos expone a los ciudadanos a perspectivas parciales o engañosas. El problema afecta a la dimensión cultural y moral, ya que la calidad de la comunicación pública depende directamente de la confianza social y repercute en ella. Una información veraz, de hecho, no surge de un control centralizado o automatizado. En el discurso público, la verdad de los hechos tiene una dimensión racional, ya que requiere verificación, cotejo de fuentes y responsabilidad argumentativa; pero es aún más relacional: se construye a través de vínculos de confianza y prácticas compartidas, en un diálogo honesto con los demás y con el mundo. Sólo la búsqueda compartida de la verdad de los hechos, asumida como bien común, puede sentar las bases de una comunicación justa”.

La desigualdad, la educación y la precariedad laboral son otros de los temas examinados a la luz de la modernidad tecnológica que se nos presenta hoy día. También el nuevo “colonialismo” es una de las piezas centrales de su discurso:

«El colonialismo muestra en la actualidad un rostro inédito. No sólo domina los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable. Territorios enteros, sobre todo aquellos con menos relevancia geopolítica y mayor fragilidad estructural, se ven, en el presente, atravesados por una nueva lógica de extracción: la de los flujos sanitarios, perfiles epidemiológicos, mapas genéticos y datos demográficos. Estas son las nuevas “tierras raras” del poder: informaciones vitales que, una vez correlacionadas, pueden utilizarse para entrenar modelos predictivos, orientar estrategias de inversión, anticipar crisis y, sobre todo, seleccionar quién y qué importa. Quien posee los datos sanitarios de poblaciones enteras, hoy recopilados a menudo bajo el pretexto de la ayuda, la investigación o la innovación, posee en realidad una palanca estructural sobre el futuro: puede moldear las necesidades y los mercados. Y puede decidir, antes que los demás, a quién destinar medicamentos, inversiones y protecciones. Es aquí donde se juega una de las cuestiones morales más urgentes de nuestro tiempo: transformar el conocimiento compartido en bien común, no en herramienta de dominio; devolver a los pueblos no sólo los datos que los describen, sino también la posibilidad de decidir cómo se utilizarán, quién los utilizará y para quién. De lo contrario, la era digital no será postcolonial, sino colonial bajo otra forma».

Y todo esto deviene esclavitud, formas modernas de explotación que la encíclica denuncia abiertamente y sobre las que propone, a la manera de un manifiesto, diversas acciones:

“Las nuevas esclavitudes se alimentan de cadenas económicas e infraestructuras digitales. Por lo tanto, es necesario actuar en varios frentes: en primer lugar, para exigir una mayor transparencia de las cadenas de suministro que sustentan la industria tecnológica y la economía digital, de modo que ninguna ventaja competitiva se construya sobre la explotación invisible. En segundo lugar, es necesario que las empresas y los inversionistas adopten criterios claros de verificación ética preventiva (due diligence), incluyendo entre las prioridades la protección de los trabajadores, la lucha contra el trabajo forzoso y el impacto social de los modelos de negocio basados en datos. Además, se debe exigir a las plataformas digitales que cooperen de manera responsable con las autoridades y con la sociedad civil para impedir que las herramientas de comunicación, pago y elaboración de perfiles se conviertan en canales de captación y control de las víctimas. Cuando estas decisiones convergen, el entorno digital puede transformarse de espacio de depredación en espacio de protección, prevención y promoción de la dignidad”.

Custodiar lo humano

La custodia de la humano que se plantea la encíclica a lo largo de sus páginas es patente. Se puede diferir de sus apreciaciones y conclusiones, pero no de su motivación, humanista sin duda.

Es un texto que en su complejidad sintetiza la mirada de la Iglesia frente a un mundo lleno de retos e incertidumbre. León XIV ha hecho su aporte a una discusión que desde luego concierne a muchos otros actores y en la que todos, como simples ciudadadanos, debemos participar.

Su meta, razonablemente religiosa, no es otra que "La civilización del amor", pero independientemente de cómo se la defina es cierto que la concordia y la paz mundiales no puede nacer de "un gesto único y espectacular, sino de una suma de fidelidades pequeñas y tenaces, que hacen frente a la deshumanización. Por eso vale la pena detenerse y considerar algunos aspectos de cómo, cada uno en su ámbito, podemos colaborar en su construcción. Sin pretender agotar el tema, propongo cinco vías de responsabilidad cotidiana y pública: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo".

La tarea de “custodiar lo humano” en estos tiempos se antoja extremadamente difícil, pero quizá por ello, justamente, León XIV recupera las palabras de J.R. Tolkien cuando hace decir a uno de sus personajes: «No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza».

Esa es, dice León XIV “nuestra responsabilidad”.