Si nosotros, los católicos estadounidenses, estamos orgullosos de este Papa, muchos de nosotros estamos aún más orgullosos de que el primer pontífice estadounidense asumiera esta cuestión vital y en un momento tan crucial. En gran parte de la cultura estadounidense –y particularmente en la prensa empresarial y tecnológica– desafiar el poder económico y el gobierno oligárquico de las empresas de inteligencia artificial con sede en Estados Unidos es un acto que equivale a una herejía. El Papa León no sólo está dispuesto sino deseoso de expresar su desacuerdo. Bendito sea.
Gran parte de la encíclica implica defender la propuesta de que el Vaticano debería estar –y siempre ha estado- involucrado en pronunciamientos sobre cosas nuevas y muy terrenales como la inteligencia artificial. “La Iglesia está presente en la historia y dialoga con el mundo”, afirma Léon. Está de acuerdo con los Sam Altman y Elon Musk del mundo en que la humanidad se encuentra en una encrucijada. Pero en esta encrucijada, afirma, es necesario plantearse tres preguntas: “¿Hacia dónde vamos? ¿Hacia qué objetivo queremos avanzar? ¿Qué dirección debemos elegir como pueblo y como comunidad humana?”. Invocando una historia bíblica sobre el orgullo, la construcción de la Torre de Babel, advierte contra lo que llama el “síndrome de Babel”: “es decir, la idolatría del lucro que sacrifica a los débiles, una uniformidad que neutraliza las diferencias y la pretensión de que un único lenguaje – incluso el digital – pueda traducirlo todo, incluido el misterio de la persona, en datos y resultados”.
Comenzando por la dignidad fundamental del ser humano, León traza la igualdad inalienable y universal de las personas y sus derechos inviolables. Establece, en el marco de la Doctrina Social de la Iglesia (que tiene su origen en la “Rerum Novarum”), principios que incluyen el compromiso con el bien común, que define como “la expresión social de la dignidad reconocida en cada persona”. Revisando la del Papa Francisco “Alabadle” ” (“Alabado seas”), una encíclica de 2015 que pedía la protección del medio ambiente, “nuestra casa común”, Leo lamenta el surgimiento del “paradigma tecnocrático” o “la tendencia a dejar que la lógica de la eficiencia, el control y el beneficio por sí sola dé forma a las decisiones personales, sociales y económicas”. Aquí, aproximadamente a la mitad de la encíclica, aborda el problema de la inteligencia artificial, que se esfuerza por distinguir de la inteligencia humana: “Las llamadas inteligencias artificiales no experimentan, no poseen cuerpos, no sienten alegría ni dolor, no maduran en las relaciones y no saben desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad. Tampoco tienen conciencia moral, ya que no juzgan el bien y el mal, no captan el significado último de las situaciones y no se responsabilizan de las consecuencias. Por muy valiosa que pueda ser esta herramienta, sostiene, se ha desarrollado de manera imprudente, poniendo en peligro tanto “nuestra casa común” como nuestra humanidad común.
El problema no es la tecnología, dice el Papa en “Magnifica Humanitas”; es antropología. Los algoritmos, las formas de automatización y la inteligencia artificial distinguen a los dignos de los indignos; manipulan la información y socavan la confianza; violan la privacidad; empoderan a quienes ya son poderosos y reducen las capacidades de quienes ya son vulnerables; hacen la guerra más despiadada; socavan la gobernabilidad democrática; quitan la dignidad del trabajo, tal vez a la masa de la humanidad. Aboga por formas de regulación y, en particular, por un control democrático de la inteligencia artificial, pero sobre todo pide “desarmar” la IA. “Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad”, escribe. “Esto significa liberar la tecnología del control monopolístico y abrirla a la discusión y el debate, haciéndola así fácil de usar y restableciéndola a la pluralidad de culturas y formas de vida humanas”. Teme que la cultura en torno a la inteligencia artificial socave la búsqueda de la verdad, necesaria tanto para la vida democrática como para cualquier posibilidad de una verdadera existencia espiritual.
La letanía de preocupaciones del Papa difiere poco de las que han planteado comentaristas serios durante décadas, particularmente en los Estados Unidos, donde la automatización ha sido más avanzada y sus peligros se han visto más temprano, como sostengo en un libro de próxima aparición: “El ascenso y la caída del estado artificial.” El término “inteligencia artificial” fue acuñado el año en que nació el Papa, 1955, y ya se estaban advirtiendo las consecuencias nocivas que simular –o incluso superar- la inteligencia humana podría tener para la dignidad, la igualdad y la libertad humanas, así como los peligros de sustituir las funciones de los gobiernos democráticos por sistemas automatizados. En 1957, Hannah Arendt escribió en “la condición humana“Un gran número de esfuerzos científicos han tenido como objetivo hacer que la vida también sea “artificial”, para romper el último eslabón al que pertenece incluso el hombre entre los hijos de la naturaleza”, y se preguntó si algún día los humanos “necesitarían máquinas artificiales para pensar y hablar”. Ya en 1962, los estadounidenses ya se preguntaban si vivían en una “cibernación”; Pronto surgió el temor a un “Estado automatizado”. En 1967, en “El mito de la máquina», el crítico estadounidense y neoyorquinos El escritor Lewis Mumford lamentó el surgimiento de la “inteligencia cibernética”, advirtiendo que “en lugar de funcionar activamente como una personalidad autónoma, el hombre se convertirá en un animal pasivo, sin objetivo, condicionado por una máquina, cuyas funciones apropiadas, tal como los técnicos interpretan ahora el papel del hombre, serán incorporadas a la máquina o estrictamente limitadas y controladas en beneficio de organizaciones colectivas despersonalizadas”. » Mumford describió el determinismo tecnológico como “una mala interpretación radical de todo el curso del desarrollo humano”, una creencia errónea que debía abandonarse “si queremos tener un control adecuado de nuestra cultura mecanizada antes de que perdamos tanto nuestra conciencia del propósito humano como nuestra confianza en nuestra capacidad de controlar nuestras propias creaciones”.
