CIUDAD DEL VATICANO — CIUDAD DEL VATICANO (AP) — Papa León XIV pidió el lunes una regulación estricta de la inteligencia artificial y que sus desarrolladores trabajen para el bien común en lugar de las ganancias, emitiendo un amplio manifiesto sobre cómo salvar a la humanidad mientras la tecnología afecta todo, desde el trabajo hasta la guerra.
“Humanidad Magnífica” (Humanidad Magnífica), La primera encíclica de Leónes muy esperado desde que el primer Papa nacido en Estados Unidos anunció pocos días después de su elección que consideraba que la IA era el mayor desafío al que se enfrenta la humanidad actualmente.
En el texto, Leo denuncia la “cultura del poder” que impulsa la carrera por la IA, particularmente en el desarrollo de métodos cada vez más sofisticados de guerra remota. Dijo que “no estaba permitido” confiar decisiones irreversibles y mortales a sistemas de inteligencia artificial, creando un nuevo punto de tensión entre el Papa estadounidense y la administración Trump, que ha ha trabajado agresivamente para desregular el desarrollo de la IA.
Expertos de la industria tecnológica, la academia y la moral católica dijeron que el documento probablemente se convertirá en un punto de referencia en el debate sobre la IA, un punto de referencia para los formuladores de políticas, los investigadores y la gente común. Esto se produce cuando los avances tecnológicos casi diarios generan una creciente preocupación de que los trabajos humanos sean reemplazados por la IA, o incluso la inteligencia humana.
“Permite que las personas que están a la vanguardia de estas herramientas y son capaces de ver las cosas increíbles que son capaces de hacer se hagan sus propias preguntas: ‘¿Qué significa ser humano?’ ” dijo Taylor Black, ejecutivo de IA de Microsoft y director del Instituto de IA de la Universidad Católica de América.
Se esperaba que el Papa presentara el texto el lunes en un lanzamiento en el Vaticano en el que participaría el cofundador de Anthropic, que actualmente se encuentra encerrado en prisión. batalla legal con la administración Trump sobre el acceso a su tecnología de IA. El Vaticano decidió involucrar a Anthropic como parte de su esfuerzo de una década para involucrar a Silicon Valley en un diálogo sobre el costo humano de la IA.
Sin embargo, en su texto, Leo criticó repetidamente la concentración de poder y datos en manos de tan pocas personas en el sector privado, calificándola de peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.
“No basta con invocar la ética en abstracto; necesitamos marcos legales sólidos, supervisión independiente, usuarios informados y un sistema político que no abdica de sus responsabilidades”, escribió. “Una IA más moral no es suficiente si esa moralidad está determinada por unos pocos. »
Leo ha pedido repetidamente a los desarrolladores de IA y a los líderes políticos encargados de regularlos que disminuyan la velocidad y piensen en lo que están haciendo. Les instó a utilizar directrices éticas y espirituales para tomar la decisión de trabajar no para su propio beneficio o poder, sino para el bien de la humanidad.
Los competidores de IA OpenAI y Anthropic son la segunda y tercera empresa privada estadounidense más valiosa, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchos países.
En un texto metódico, el especialista en matemáticas recorrió la historia de la enseñanza social de la Iglesia católica y aplicó sus conceptos fundamentales –justicia, solidaridad, dignidad del trabajo y destino universal de los recursos– a la revolución digital.
“Estoy seguro de que este resultará ser un documento decisivo para nuestros tiempos, un documento profundo y profético”, dijo Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente de la junta de supervisión de Meta.
“El Papa León expresa una voz clara, integral y consistente instándonos a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los humanos en lugar de degradarlos”, dijo.
En sus capítulos más fuertes, Leo denunció cómo la IA había ayudado a acelerar la “normalización de la guerra” al insensibilizar a la gente ante su coste. No mencionó conflictos específicos, pero citó “imperialismos opuestos, entre potencias que desean preservar su supremacía y aquellas que aspiran a apoderarse de esa supremacía”.
Exigió transparencia y responsabilidad a los desarrolladores de IA para que siempre se conozca la cadena de toma de decisiones sobre el orden de los ataques con armas de IA. Dijo que la teoría de la “guerra justa” de la Iglesia Católica, que proporciona criterios específicos para determinar cuándo se puede justificar la fuerza, ahora estaba “obsoleta” debido a los avances tecnológicos en la guerra.
León firmó el texto el 15 de mayo, en el 135º aniversario de la publicación de “Rerum Novarum” (Cosas Nuevas), el documento educativo más importante del héroe y homónimo de León, el Papa León XIII. Este documento analizaba los derechos de los trabajadores, los límites del capitalismo y las obligaciones que los estados y los empleadores tenían hacia los trabajadores mientras la Revolución Industrial estaba en marcha.
Se ha convertido en el fundamento del pensamiento social católico moderno, y el actual Papa lo citó al principio de su pontificado en relación con la Revolución de la IAlo que, según él, plantea las mismas cuestiones existenciales que las que planteó la revolución industrial hace más de un siglo. “Magnifica Humanitas” se convierte así en el capítulo final de una historia centenaria de papas que adaptaron la “Rerum Novarum” a las cuestiones sociales de su época, centrándose a menudo en la dignidad del trabajo para el florecimiento humano.
La IA evoca ambos Miedos existenciales y visión utópica. en medio de un debate cada vez más intenso sobre si se convertirá en un catalizador que enriquecerá a la humanidad o en una toxina tecnológica que debilitará la inteligencia humana y al mismo tiempo eliminará millones de empleos bien remunerados.
“La búsqueda de mayores beneficios no puede justificar decisiones que sacrifican sistemáticamente puestos de trabajo, porque la persona humana es un fin, no un medio, y el orden económico debe permanecer subordinado a la dignidad humana y al bien común”, escribió Leo.
León expresó su preocupación por el respeto de la dignidad humana en el trabajo presentando la primera disculpa papal en nombre de la Santa Sede. papel en la legitimación de la esclavitud.
Los ex papas se han disculpado por la participación cristiana en la trata transatlántica de esclavos. Pero ningún Papa ha reconocido públicamente, y mucho menos se ha disculpado, por el papel que él mismo desempeñó al otorgar a los soberanos europeos autoridad explícita para subyugar y esclavizar a los “infieles”.
Los funcionarios del Vaticano se negaron a decir quién contribuyó exactamente a la encíclica de León. Pero los funcionarios del Vaticano y de la Iglesia han estado dialogando con las empresas tecnológicas de Silicon Valley durante una década. Hacia el final de su pontificado, el Papa Francisco comenzó hablar más sobre la IA y los riesgos que plantea para la humanidad.
La decisión de incluir a Anthropic en el lanzamiento del Vaticano fue criticada por algunos que lo vieron como un sello de aprobación papal para la empresa de IA.
En febrero, la administración Trump ordenó a todas las agencias estadounidenses que dejar de usar La tecnología de Anthropic tras negarse a autorizar su uso irrestricto por parte del ejército estadounidense. Anthropic, que se anuncia a sí misma como la empresa de inteligencia artificial que pone la seguridad y la mitigación de riesgos a la vanguardia de su investigación, actualmente continuar la administración.
Brian Boyd, enlace religioso en Estados Unidos para la organización sin fines de lucro Future of Life Institute, interpretó la inclusión del cofundador de Anthropic, Christopher Olah, como algo similar a una audiencia papal con un jefe de estado: no es un respaldo.
“Creo que es más un reconocimiento de cómo esta es una empresa extremadamente poderosa que actualmente está ganando esta carrera para reemplazar a los trabajadores humanos”, dijo Boyd.
Anthropic es una “gran empresa que asume enormes riesgos y responsabilidades”, continuó Boyd, pero dijo que la empresa ha “demostrado buena voluntad, integridad e interés genuinos en el diálogo”.
___
Winfield informó desde Middletown, Connecticut, y Houmani informó desde Los Ángeles. Los periodistas de Associated Press Kelvin Chan en Londres y Colleen Barry en Milán contribuyeron a este informe.
___
La cobertura religiosa de Associated Press recibe apoyo de AP colaboración con The Conversation US, con financiación de Lilly Endowment Inc. La AP es la única responsable de este contenido.
