Guerra e IA: Santa Sede reúne ciencia y fe para proponer hacia el futuro

7:00 p.m. | 24 ago 26 (OSV/BAS).- Más de 200 expertos y líderes se reunieron en el Vaticano ante dos riesgos convergentes: IA y armas nucleares. El encuentro concluyó con una declaración que reclama acciones internacionales, control humano sobre decisiones que afectan a la supervivencia y avanzar hacia la eliminación de las armas nucleares. Inspirada en Magnifica humanitas de León XIV, la reunión abordó seguridad internacional, gobernanza tecnológica, desarme y paz, durante tres días de debate entre premios Nobel, científicos, líderes religiosos y antiguos jefes de Estado.

——————————————————————————————–

Esta publicación ofrece una cobertura de la Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, celebrada en la Santa Sede y culminada con la firma de la “Declaración de Roma”. En una primera parte presentamos los principales temas abordados, a sus participantes y algunas de las intervenciones que marcaron el encuentro. Luego, compartimos reseñas de las tres jornadas de trabajo y se sintetizan los principales contenidos de la declaración final, con sus propuestas sobre inteligencia artificial (IA), armas nucleares, control humano y gobernanza. La publicación incorpora además una breve presentación de la misión y visión de la Asamblea y una síntesis de una entrevista a Melissa Parke, directora de la Campaña Internacional para Abolir las Armas Nucleares (ICAN).

Una Asamblea ante dos riesgos que ya convergen

Los premios Nobel calificaron la encíclica del papa León XIV, Magnifica humanitas, como un “llamamiento a la acción” y “un enorme paso adelante” para prevenir una guerra nuclear impulsada por la IA, durante la Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, celebrada en Roma. El encuentro reunió a científicos, expertos en esta tecnología, activistas, líderes religiosos, antiguos jefes de Estado y académicos para abordar conjuntamente dos de los grandes desafíos de nuestro tiempo: la IA y la amenaza de las armas nucleares.

La reunión se produjo en el contexto de recientes iniciativas destinadas a poner de relieve los riesgos de las actuales carreras armamentísticas en materia de IA y armas nucleares. El año anterior, la Asamblea de Premios Nobel para la Prevención de la Guerra Nuclear se había reunido en la Universidad de Chicago y había emitido una declaración en la que instaba a responsables políticos y dirigentes a reducir la amenaza de una guerra nuclear. A comienzos de julio, además, las Naciones Unidas habían publicado su primer informe de evaluación científica sobre las oportunidades, los riesgos y las repercusiones de la IA, incluyendo su posible impacto en el aumento de la desigualdad mundial.

Pero la Asamblea de Roma tuvo una característica particular: fue la primera vez que una reunión de científicos, expertos, activistas y líderes religiosos de tal magnitud y diversidad abordó conjuntamente los riesgos de la IA y las armas nucleares. Más de 200 personalidades participaron en las sesiones celebradas en el Borgo Laudato Si’, en los jardines papales de Castel Gandolfo, entre ellas más de dos docenas de premios Nobel, antiguos jefes de Estado y de Gobierno, investigadores de IA y representantes de diversas tradiciones religiosas. El encuentro fue organizado con la participación de instituciones académicas, científicas y de prevención de la guerra nuclear.

Uno de los subtítulos de la declaración final propuesta por la Asamblea, “Hacia una paz desarmada y desarmante”, recogió una de las claves del encuentro y remitió directamente al lenguaje empleado por León XIV en su encíclica sobre la custodia de la persona humana en el tiempo de la IA. El Vaticano logró reunir así a un grupo diverso de líderes de pensamiento en torno a una cuestión que, para los participantes, exigía poner en relación la tecnología, la seguridad, la ética y la responsabilidad humana.

Arthur B. McDonald, astrofísico canadiense y ganador del Premio Nobel de Física de 2015, afirmó que muchos científicos han acogido la encíclica de León como “un documento para la humanidad”. A su juicio, el Papa se encontraba en una posición única para advertir al mundo sobre los peligros planteados por la IA junto con la amenaza persistente de las armas nucleares. “Nos enfrentamos a una crisis para la humanidad”, afirmó, al considerar la encíclica “una iniciativa muy oportuna” por parte del pontífice.

Maria Ressa, periodista filipina y Premio Nobel de la Paz de 2021, elogió igualmente el liderazgo del Papa y su valentía para señalar los desafíos morales planteados por la IA. “Ahora los científicos se están uniendo con la fe”, afirmó. “La encíclica de León XIV es un llamado a la acción para los líderes”. Ressa, una de las personas encargadas de la relatoría de la declaración, afirmó también que el mundo había vivido ya con la IA su propio momento de la prueba Trinity, en alusión al primer ensayo de un arma nuclear, ocurrido hace 81 años. “Una bomba atómica ha explotado en silencio en nuestro ecosistema de información. Ahora, las crisis pueden fabricarse en cuestión de minutos”.

La firma de la declaración se realizó en el Palacio Senatorial de la colina Capitolina de Roma, bajo la mirada de una antigua estatua de Julio César, después de dos días de ponencias, intercambios y reuniones a puerta cerrada en Castel Gandolfo. James E. Muller, cardiólogo estadounidense y cofundador de International Physicians for the Prevention of Nuclear War, organización que recibió el Premio Nobel de la Paz en 1985, calificó de “enorme paso adelante” la crítica formulada por León XIV -en el quinto capítulo de su encíclica- a la disuasión nuclear y a la nueva carrera armamentística. Daniel Holz, astrofísico de la Universidad de Chicago y presidente de la Junta de Ciencia y Seguridad del Bulletin of the Atomic Scientists, afirmó que la propia Asamblea encarnaba el mensaje de Magnifica humanitas. “Este encuentro es un ejemplo vivo de la encíclica. Estamos haciendo precisamente el trabajo del que habla la encíclica”, afirmó.

Una declaración sobre IA, armas nucleares y control humano

Titulada “Declaración de Roma sobre una paz desarmada y desarmante en la era de la IA y las armas nucleares”, el documento estableció seis principios sobre la gobernanza de la IA, el desarme nuclear y los riesgos planteados por las tecnologías emergentes. El documento pidió un tratado internacional que garantizara que ningún sistema automatizado pudiera tomar jamás la decisión final de lanzar un arma nuclear y que se preservara un “control humano significativo” sobre este tipo de decisiones. También instó a los desarrolladores de IA a publicar los principios que orientan el comportamiento de sus modelos y a rendir cuentas por ellos.

La declaración sostuvo además que ninguna empresa ni gobierno debería desarrollar sistemas de IA plenamente automatizados y capaces de perfeccionarse por sí mismos sin contar con la posibilidad de supervisarlos o detenerlos. A los Estados que poseen armas nucleares les pidió realizar revisiones destinadas a proteger sus arsenales de interferencias no autorizadas por parte de la IA y reanudar las negociaciones encaminadas a la eliminación verificable de las armas nucleares en el marco de los tratados vigentes de no proliferación.

La declaración comenzaba afirmando que la humanidad afrontaba “un momento decisivo” en el que convergían la era nuclear y la era de la IA. Sostenía que la humanidad había fracasado en impedir un estado permanente de temor nuclear después del desarrollo de las armas atómicas y advertía contra la posibilidad de repetir ese error con la IA. Evocando las palabras de Albert Einstein y Bertrand Russell en su manifiesto de 1955, el texto afirmaba: “Hacemos un llamamiento como seres humanos a seres humanos: recuerden su humanidad, y olviden el resto”, y advertía que estaban en juego la supervivencia de la humanidad y la de las generaciones futuras. El documento también llamó a poner fin a las carreras armamentísticas en materia de IA y armas nucleares y a garantizar el desarrollo y la gobernanza responsables de los modelos de IA, de modo que estuvieran alineados con “los intereses de la humanidad, incluido el derecho internacional y el respeto de los derechos humanos”.

Una preocupación que va más allá del control de las máquinas

Para los participantes, el problema no se reducía a impedir que una máquina tomara una decisión sobre el lanzamiento de un arma nuclear. La cuestión era también afrontar el riesgo de que la IA profundizara una situación ya marcada por la existencia de arsenales nucleares y por nuevas dinámicas de competencia tecnológica. Muchos asistentes señalaron la dificultad de evaluar esos riesgos ante la velocidad del desarrollo de la IA. “La IA es una tecnología que no comprendemos y se está desarrollando más rápido de lo que los seres humanos podemos asimilar”, afirmó Holz durante la ceremonia pública. “Muchos de quienes están desarrollando la tecnología de IA sienten temor ante esta tecnología”, añadió.

Brian Schmidt, premio Nobel de Física de 2011, señaló que uno de los objetivos de la iniciativa había sido convencer al Vaticano de que el riesgo combinado de la IA y la guerra nuclear era una cuestión suficientemente importante como para ser asumida por el Vaticano y otras Iglesias. “Yo podría llegar a un millón de personas. Pero el Papa puede llegar a 2.000 millones. Son 2.000 veces más que yo”, afirmó.

Muhammad Yunus, Premio Nobel de la Paz de 2006, consideró que la declaración era particularmente importante en un contexto de crecientes tensiones nucleares y ante las posibilidades amenazantes que está generando la inteligencia artificial. “La IA es apenas el comienzo de la historia de terror”, afirmó. “Puede convertirse en algo terrible porque estamos dejando salir al genio de la botella. Por eso, este es un buen momento para tomar una posición”. David Gross, ganador del Premio Nobel de Física de 2004, sostuvo que, en última instancia, la presión pública y no los líderes gubernamentales sería la que impulsaría el cambio. “Si los jóvenes fueran informados del peligro actual (…), volverían a salir a las calles”, afirmó después de firmar la declaración.

Una iniciativa amplia, con presencia vaticana

La Asamblea reunió a unos 200 delegados y contó con el copatrocinio de instituciones como el Existential Risk Laboratory de la Universidad de Chicago, la Universidad de Notre Dame, la Facultad de Medicina de Harvard, el Bulletin of the Atomic Scientists, International Physicians for the Prevention of Nuclear War y la Universidad Católica de América. También participaron la actriz Sharon Stone, como embajadora honoraria de la paz, y un miembro de la Academia Rusa de Ciencias, una presencia acogida favorablemente por los defensores del desarme nuclear debido a la dimensión del arsenal nuclear de Rusia.

Varios altos responsables de la Santa Sede intervinieron en la conferencia, entre ellos los cardenales Ángel Fernández Artime, Fabio Baggio, Silvano Maria Tomasi, Mauro Gambetti y Baldassare Reina, vicario general de la diócesis de Roma. El padre Andrea Ciucci, presidente de la Pontificia Academia para la Vida, afirmó: “Estoy muy orgulloso de este evento porque, en esta ocasión (…) los líderes de las distintas religiones demuestran que podemos trabajar juntos, en favor de la humanidad”.

La presencia de tradiciones y perspectivas diferentes fue una de las características destacadas por los participantes. Juan Manuel Santos, premio Nobel de la Paz de 2016 y expresidente de Colombia, subrayó durante las sesiones la necesidad de una gobernanza eficaz y recordó las grandes movilizaciones contra las armas nucleares de las décadas de 1980 y 1990. A su juicio, ante el aumento del riesgo de una guerra nuclear, incluida la nueva dimensión introducida por la IA, hoy existe una ausencia preocupante de reacción pública. Santos expresó su esperanza de que una reunión de este tipo generara el impulso necesario para provocar una reacción de la opinión pública que presionara a los líderes mundiales a tomar decisiones más concretas. Stone, por su parte, pidió a los dirigentes “buscar el bien común y la paz para cada ser humano”, y añadió: “A nuestros hijos hay que permitirles seguir amándose unos a otros”.

Durante la rueda de prensa final, Holz calificó la declaración como “un primer paso productivo” en un momento de peligro sin precedentes. Los participantes coincidieron en que el trabajo debía continuar más allá de Castel Gandolfo. “Este es el comienzo”, afirmó Yunus. “Todo el mundo debería reunirse, no solo unas pocas personas. Eso es muy importante”. Gross resumió el desafío con otra expresión: “La próxima batalla está en las calles”.

El cardenal Reina afirmó que la declaración dejaba claro que “ninguna máquina, ningún algoritmo y ningún sistema autónomo” debía determinar decisiones que afectaran a la supervivencia de la humanidad. “Las decisiones relativas a la vida y la muerte, la paz y la guerra y el futuro de los pueblos y de las generaciones por venir deben permanecer bajo un control humano pleno, responsable y significativo”, afirmó.

ENLACE. Portal web oficial de la Asamblea

VIDEO. Premios nobel se dan cita en Roma para firmar un acuerdo sobre la IA y las armas nucleares

 

 

La Asamblea, día por día

Primera jornada: confrontación virtuosa

Unos treinta premios Nobel, veinte expertos líderes en IA —entre ellos miembros de OpenAI, Google DeepMind, AarU y Anthropic—, treinta exjefes de Estado y de Gobierno y representantes de algunas de las universidades e instituciones de investigación más importantes del mundo participaron en la primera jornada de la Asamblea. El encuentro se propuso generar un debate constructivo sobre “el futuro de la seguridad internacional, la gobernanza de las tecnologías emergentes, el desarme y la construcción de una economía de paz”.

En su discurso de bienvenida, el cardenal Fabio Baggio, proprefecto del Dicasterio para el Servicio del Desarrollo Humano Integral y director general del Centro de Educación Superior Borgo Laudato Si’, subrayó que “la paz no es simplemente la ausencia de guerra. Es un orden basado en la justicia, la confianza mutua, el respeto a la ley y la dignidad inviolable de todo ser humano”. También destacó la necesidad de fomentar el diálogo en distintos ámbitos: “En un momento en el que el ritmo de la innovación suele superar al de la reflexión, el mundo necesita principios comunes capaces de orientar el progreso hacia fines auténticamente humanos”.

En este horizonte, los participantes situaron la IA como una herramienta que debía orientarse al servicio de la humanidad y de la paz. “Representa una oportunidad extraordinaria para el progreso de la medicina, la investigación, la educación, la economía y la cooperación entre los pueblos”, afirmó Baggio, “precisamente por ello, exige una reflexión ética acorde con la magnitud de sus consecuencias”.

Los organizadores señalaron que la Asamblea se alineaba con la visión de León XIV de una “paz desarmada y desarmante” y buscaba un nuevo paradigma global capaz de combinar “innovación, responsabilidad y ética”. El escenario elegido, el Borgo Laudato Si’, reforzó esta perspectiva: las 55 hectáreas de las Villas Pontificias de Castel Gandolfo fueron concebidas no solo como un espacio natural, sino también como un centro de investigación, hospitalidad, educación y reflexión sobre la relación entre la humanidad, la naturaleza, la tecnología y el desarrollo.

El cardenal Silvano Maria Tomasi, nuncio apostólico y presidente de la Fundación Domus Communis, advirtió que la aceleración tecnológica está redefiniendo el concepto mismo de seguridad. “La IA, los sistemas autónomos, las tecnologías cuánticas, las capacidades informáticas y las infraestructuras computacionales avanzadas están redefiniendo el concepto mismo de seguridad”, afirmó. Esta transformación se produce mientras “el lenguaje de la disuasión ha vuelto a dominar las relaciones internacionales, las amenazas nucleares se invocan de nuevo abiertamente y las estructuras actuales de control de armamentos se han debilitado progresivamente”.

Tomasi planteó así una disyuntiva inspirada en Magnifica humanitas: “Construir una nueva Babel donde el poder tecnológico se convierta en un ídolo que promete la salvación, reduciendo a la persona humana a datos, eficiencia y control. O reconstruir Jerusalén donde la diversidad se convierta en comunión, la tecnología esté al servicio de la fraternidad y cada innovación se mida por la dignidad de la persona humana, en lugar de por la expansión del poder”. Y concluyó: “El Santo Padre nos recuerda que la tecnología nunca es moralmente neutral”.

El cardenal Ángel Fernández Artime, proprefecto del Dicasterio para los Institutos de Vida Consagrada y las Sociedades de Vida Apostólica, insistió en que un algoritmo no puede sustituir la capacidad de discernimiento humano. “El problema no es la tecnología, sino la dirección que queremos darle. Si no se tienen en cuenta los derechos fundamentales, corremos el riesgo de crear sistemas que fomenten el control, la manipulación e incluso nuevas formas de desigualdad”, afirmó.

VIDEO. Imágenes destacadas de la primera jornada

 

Segundo día: el compromiso de las religiones

“Bienvenida, diálogo y cooperación en la acción” fueron los tres conceptos propuestos por monseñor Indunil J. Kodithuwakku K., secretario del Dicasterio para el Diálogo Interreligioso, durante la segunda jornada de la Asamblea. La sesión, titulada “La fe y el futuro de la humanidad en la era de la IA y las armas nucleares”, retomó otra imagen utilizada por León XIV en Magnifica Humanitas: las “murallas de Jerusalén”, como proyecto basado en la dignidad humana, frente a la “Torre de Babel”, que ignora el costo humano de sus procedimientos.

Kodithuwakku invitó a las distintas religiones a “acoger, como la columnata de Bernini en la Plaza de San Pedro, que abraza a todos con sus brazos”, y después a entablar un diálogo basado en “escuchar y compartir”. De este modo, explicó, pueden surgir valores comunes que permitan “trabajar juntos para aliviar el sufrimiento humano, liberar a las personas de prejuicios y falsas creencias”.

El rabino David Rosen, del Diálogo Interreligioso Internacional, profundizó en la metáfora de Babel. “La Torre de Babel implica la opresión de los débiles, la posibilidad de que un solo idioma pueda traducir y, por lo tanto, dominar a todos los demás, y el riesgo de la deshumanización”, afirmó. En contraste, Jerusalén significa “ciudad de paz” y representa la esperanza de que esa paz pueda extenderse a toda la humanidad. Rosen subrayó también la importancia del “temor” entendido bíblicamente como reverencia y conciencia del peligro: una actitud que debe servir como antídoto frente “a la arrogancia, contra el orgullo, contra la presunción de omnipotencia” y recordar las propias limitaciones.

Desde la tradición budista, Yoshiyuki Nagaoka, director ejecutivo de la Oficina de Asuntos Públicos del movimiento religioso Soka Gakkai, explicó que su objetivo era “seguir trascendiendo las fronteras religiosas, étnicas y nacionales, con el objetivo de convertir la Tierra en una sola comunidad humana”. Su compromiso se centraba especialmente en la eliminación de las armas nucleares y en transmitir esta conciencia a las generaciones jóvenes. También expresó preocupación por las armas autónomas, capaces de seleccionar y atacar objetivos sin intervención humana directa: “Se basan en la misma lógica que las armas nucleares” y representan “una inhumanidad indiscriminada y una total falta de responsabilidad”.

Anna A. MacMillan, investigadora de políticas de IA y miembro del Consejo de Administración de la Fundación Communis, planteó quiénes deberían participar en la construcción de esas “murallas de Jerusalén”: “los custodios”, es decir, líderes religiosos y comunidad académica; “los guardianes”, como gobiernos y organismos reguladores; y “los constructores”, es decir, quienes desarrollan la tecnología. “No creo que exista un único camino para desarrollar la IA, o cualquier otra tecnología, que sea seguro, ético y responsable”, afirmó. Para lograrlo, sostuvo, deben participar y comprometerse todos los niveles interesados, sin abandonar sus propios principios morales y éticos.

Finalmente, Ignatius Ki-young Sung, del Instituto para la Paz y el Compartir de la Arquidiócesis de Seúl, presentó la situación de la península coreana y la amenaza nuclear de Corea del Norte. Aunque reconoció que “la disuasión ha funcionado hasta ahora”, insistió en que “este no puede ser el final de la historia”. Por ello, afirmó que la Iglesia católica de Corea del Sur seguiría “trabajando y orando por una paz y reconciliación duraderas” entre Corea del Sur y Corea del Norte.

VIDEO. Imágenes destacadas de la segunda jornada

 

Tercer día: “La dignidad no es un algoritmo”

La “Declaración de Roma por una Paz Desarmada y Desarmante en la Era de la Inteligencia Artificial, las Armas Nucleares y Autónomas, los Nuevos Protocolos Digitales y los Modelos Emergentes de Desarrollo Digital” fue firmada en el Capitolio de Roma, como culminación de la Asamblea. La sesión conclusiva comenzó con los saludos institucionales del alcalde Roberto Gualtieri. El profesor Daniel Holz, de la Universidad de Chicago y director fundador del Existential Risk Lab, recordó que “la mala noticia” era que “vivimos un momento de peligro sin precedentes”, pero también que “la buena noticia es que hay muchas cosas que podemos hacer para estar más seguros frente a las armas nucleares y frente a la IA”.

El cardenal Baldassare Reina, vicario general del Papa para la diócesis de Roma, señaló que la Declaración llegaba en un momento marcado por “rápidas transformaciones y profundos riesgos”: la IA, las armas nucleares, la inestabilidad geopolítica, la crisis del multilateralismo y la tentación de confiar la seguridad al miedo, la disuasión y las amenazas mutuas. Afirmó que el progreso científico y tecnológico ofrece oportunidades extraordinarias, pero que, separado de la ética, la responsabilidad y el respeto por la dignidad humana, puede convertirse en “un instrumento de dominación, exclusión e incluso destrucción”.

Reina subrayó uno de los principios centrales de la Declaración: “ninguna máquina, ningún algoritmo y ningún sistema autónomo puede situarse en el centro de decisiones de las que depende la supervivencia de la humanidad”. Las decisiones sobre “la vida y la muerte, la paz y la guerra, y el futuro de los pueblos y de las generaciones venideras” deben permanecer bajo “un control humano pleno, responsable y significativo”.

El padre Andrea Ciucci, canciller de la Pontificia Academia para la Vida, reflexionó sobre el doble rostro del ingenio humano: capaz de crear obras extraordinarias y, al mismo tiempo, de producir una enorme devastación. La IA y la energía nuclear no serían una excepción: “La IA puede impulsar a los seres humanos a construir o a destruir”. También intervinieron el cardenal Silvano Maria Tomasi y la premio Nobel de la Paz Maria Ressa, con llamados a afrontar la carrera armamentística y a recuperar una brújula moral.

David Gross, premio Nobel de Física, advirtió que su preocupación por las armas nucleares era hoy mucho mayor que tres décadas atrás. Ante la desaparición de los tratados de control de armamentos y la existencia de nueve potencias nucleares, afirmó: “Estamos en medio de una carrera armamentística acelerada”. Recordó que las amenazas afectan también a los hijos y nietos de las generaciones actuales y reclamó políticas que reduzcan el riesgo de guerra nuclear y de aniquilación. La embajadora de la paz Sharon Stone cerró su intervención con una expresión que sintetizó uno de los mensajes de la Asamblea: “La dignidad humana no es un algoritmo”.

VIDEO. Imágenes destacadas de la tercera jornada

Las propuestas de la “Declaración de Roma”

“La humanidad se encuentra en un momento decisivo de su historia”. Con estas palabras comenzaba la declaración conclusiva de la Asamblea, que reunió las preocupaciones expresadas en los encuentros entre premios Nobel, expertos en IA, antiguos jefes de Estado y de Gobierno y representantes de importantes universidades e instituciones de investigación. La declaración describió como “un desafío sin precedentes” la convergencia de la IA y las armas nucleares.

El texto destacó las oportunidades de esa tecnología, pero advirtió que podría “provocar una pérdida masiva de puestos de trabajo y acentuar la competencia económica entre las potencias nucleares”. Su concentración en manos de un número reducido de países y grandes empresas podría generar profundas asimetrías de poder, mientras que su velocidad de desarrollo está llamada a producir transformaciones económicas, militares y sociales de gran alcance. A ello se suma, según los firmantes, una carrera por la IA “igualmente peligrosa” junto con la creciente carrera armamentística nuclear. Frente a ello, la declaración acogió la invitación de León XIV a buscar “una paz desarmada y desarmante” y rechazó una concepción de la seguridad basada en el miedo, el dominio, la amenaza y la destrucción mutua.

En interés de la humanidad

Los seis puntos de la declaración llamaron a “desactivar la próxima carrera armamentística, tanto en el ámbito de la IA como en el nuclear, antes de que sean estas las que determinen el rostro del próximo siglo”. El documento pidió a los desarrolladores de sistemas de IA que actuaran en interés de la humanidad, respetando el derecho internacional y los derechos humanos, y reclamó a organizaciones y gobiernos supervisar los procesos totalmente automatizados en estos sistemas.

Uno de los planteamientos centrales se refiere a las decisiones sobre el uso de armas nucleares. “La decisión final de emplear un arma nuclear —afirma la declaración— nunca debe confiarse a un sistema automatizado”. Por ello, los firmantes pidieron un “tratado internacional que prohíba la integración irresponsable de la IA en los sistemas de mando, control y lanzamiento de armas nucleares”, garantizando siempre “un control humano efectivo y significativo”. El documento llamó además a impedir usos malintencionados de la IA en operaciones cibernéticas y ataques contra infraestructuras nucleares. Al mismo tiempo, la declaración defendió un uso responsable de la IA “para mejorar el bienestar humano, acelerar el progreso científico y médico, proteger el medio ambiente, reforzar la resiliencia de las sociedades y promover la paz, el desarrollo sostenible y el bien común”.

Los firmantes plantearon también nuevas vías institucionales para una gobernanza global de la IA y respaldaron iniciativas inspiradas en Magnifica humanitas, así como el Panel Científico Internacional Independiente de las Naciones Unidas sobre IA. Entre sus propuestas figuró la creación de “un bien común digital” (digital commons) que facilite la recopilación y el intercambio de datos necesarios para profundizar en el conocimiento y respaldar acciones eficaces frente a los riesgos relacionados con las armas nucleares y la IA. La declaración subrayó que las amenazas contemporáneas están interconectadas y que sus consecuencias suelen recaer sobre quienes carecen de acceso o control sobre las tecnologías que las generan.

El compromiso con el desarme nuclear

Finalmente, el documento instó a iniciar con urgencia negociaciones para alcanzar “la eliminación verificable e irreversible de las armas nucleares”. Los firmantes reafirmaron los compromisos asumidos en el Tratado de No Proliferación de las Armas Nucleares (TNP) y en el Tratado sobre la Prohibición de las Armas Nucleares (TPAN), y pidieron a los Estados poner fin a la carrera armamentística mediante negociaciones y el cumplimiento de las obligaciones ya asumidas. “Las naciones que poseen armas nucleares —afirma la declaración— deben promover políticas y doctrinas que reduzcan progresivamente el papel de dichas armas, refuercen la estabilidad estratégica y disminuyan el riesgo de su primer uso y de una guerra con consecuencias catastróficas”. El documento cerró con una advertencia compartida por toda la Asamblea: “Está en juego nuestra supervivencia y la de las generaciones futuras”.

VIDEO. Imágenes destacadas de la firma de la “Declaración de Roma”

Más sobre la visión de la Asamblea

La Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear partió de una reflexión más amplia que la preocupación por dos riesgos existenciales. Su propuesta reunió perspectivas procedentes de instituciones internacionales, comunidades científicas, tradiciones religiosas, círculos diplomáticos, actores tecnológicos y económicos, bajo la convicción de que desafíos como la IA, la seguridad nuclear, el desarrollo económico, la sostenibilidad ambiental, la cohesión social, la soberanía digital y la dignidad humana están profundamente interconectados.

Desde esta perspectiva, la Asamblea planteó también una cuestión económica: la expansión de la IA está transformando los mercados y favoreciendo la concentración de infraestructuras tecnológicas, datos estratégicos, capacidad de cómputo y plataformas. El desafío consiste en construir una economía del conocimiento abierta, participativa e inclusiva, evitando que el progreso tecnológico genere nuevas formas de dependencia y exclusión. Por ello, se rechazó la oposición entre innovación y ética y se planteó la necesidad de vincular el desarrollo tecnológico con el florecimiento de la persona humana.

La reflexión se extendió al concepto de una economía de paz, en la que la innovación, el crecimiento y la seguridad se refuercen mediante la cooperación y la inclusión, y a una visión integral de la gobernanza. Inspirada también en el modelo del Borgo Laudato Si’ como espacio de Ecología Integral, la Asamblea entendió los desafíos del siglo XXI como desafíos de integración. En última instancia, su pregunta de fondo fue si la humanidad podrá desarrollar la sabiduría necesaria para gobernar tecnologías cada vez más poderosas, manteniendo como criterios la dignidad de la persona, la búsqueda de la paz y el servicio al bien común.

VIDEO. Entrevista a la ganadora del Nobel, Maria Ressa

Melissa Parke: “No más armas nucleares antes de que la IA se nos vaya de las manos”

Melissa Parke, abogada internacional, exministra australiana y directora de la Campaña Internacional para Abolir las Armas Nucleares (ICAN), advirtió durante la Asamblea que la integración de la IA en los sistemas militares estaba amplificando un peligro que el mundo arrastra desde hace más de ocho décadas. Frente a las comparaciones entre los actuales líderes de la IA y J. Robert Oppenheimer, Parke recordó que el desarrollo de la bomba atómica dejó una historia de daños catastróficos que no terminó con Hiroshima y Nagasaki. “La era nuclear no ha terminado en absoluto”, afirmó. “Hay 12 mil ojivas nucleares en el mundo, una cantidad suficiente para destruir el planeta muchas, muchísimas veces”.

Para Parke, la IA no desplaza el problema de las armas nucleares, sino que lo agrava. “La única manera garantizada de eliminar el grave riesgo que afrontamos por la IA y las armas nucleares es acordar la eliminación de las armas nucleares”, sostuvo. Recordó que el Tratado sobre la Prohibición de las Armas Nucleares (TPAN) fue promovido por ICAN y que la Santa Sede fue el primer Estado en adherirse en 2017. A su juicio, la disuasión nuclear es “una teoría” basada en el miedo y no ha impedido las guerras recientes: las armas nucleares “han permanecido en segundo plano, elevando vertiginosamente lo que está en juego en cada decisión tomada durante las hostilidades”.

La directora de ICAN reconoció que el desarrollo de sistemas de IA plantea un riesgo inédito, particularmente ante la posibilidad de que estos sistemas intervengan en el manejo de arsenales nucleares. Aunque descartó un escenario inmediato como el de Terminator, afirmó que expertos consideran que la llamada “superinteligencia” podría convertirse en realidad en unos cinco años. “Nos gustaría haber eliminado las armas nucleares antes de su llegada”, señaló. En su opinión, la IA ofrece beneficios evidentes, pero “no existe equivalencia entre riesgos y beneficios cuando los riesgos ponen en juego a la civilización misma, cuando se vuelven existenciales”.

Parke defendió al mismo tiempo la cooperación con desarrolladores de IA y gobiernos para construir sistemas más seguros y pidió aplicar el principio de precaución, especialmente porque, según afirmó, algunos de los propios desarrolladores reconocen que no saben cómo controlar completamente estas tecnologías. “La carga de la prueba debe recaer en quienes afirman que la integración de estas tecnologías en la sociedad es segura, no en el resto de la humanidad”, sostuvo.

La exministra australiana también cuestionó el actual impulso al rearme nuclear en Europa. Afirmó que se estaba produciendo un “renacimiento nuclear” y consideró que la búsqueda de armas o acuerdos de uso compartido podía convertir al continente en un objetivo mayor ante un eventual conflicto. Frente a ello, reivindicó el diálogo y la cooperación internacional y sostuvo que las encuestas realizadas por ICAN muestran que los ciudadanos europeos “ya no se sienten más seguros gracias a los arsenales: simplemente, no los quieren”. En su conclusión, Parke insistió en una advertencia que conectó las armas nucleares con el debate sobre la IA: “Ningún grupo reducido de personas, ni ningún país por sí solo, debería tener jamás el poder absoluto para decidir el destino de la humanidad”.

VIDEO. Entrevista a David Gross

VIDEO. Entrevista a James E. Muller

Información adicional

• Portal web de Borgo Laudato Si’
• Portal web de la Asamblea – Programa completo
• Carta encíclica – Magnifica humanitas

Publicaciones relacionadas en Buena Voz Católica

• Magnifica humanitas: León lleva la doctrina social a la era de la IA
• ¿Hacia dónde vas, humanidad? Santa Sede impulsa el diálogo
• Consistorio: Prioridades de la Iglesia ante un mundo fracturado
• Comunicación y relaciones humanas ante los algoritmos
• León XIV: Comunicar bajo el impacto de la IA
• La Iglesia acompaña desarrollo de la IA con enfoque humano
• La Santa Sede presenta doctrina sobre la inteligencia artificial
• León XIV eleva el tono contra la guerra en su primera Pascua
• La hoja de ruta de León XIV: Unidad y paz al centro

Fuentes

• Mares, C. (2026, 17 de julio). Nobel laureates call pope’s encyclical a “clarion call” for prevention of AI-driven nuclear warfare. OSV News.
• Diaz-Maurin, F. y Mecklin, J. (2026, 17 de julio). AI for peace: In Rome, Nobel laureates call for disarming AI and nuclear weapons. Bulletin of the Atomic Scientists.
• Communications, ICAN. (2026, 16 de julio). ICAN endorses Nobel Laureates’ Rome Declaration on AI and Nuclear Weapons. International Campaign to Abolish Nuclear Weapons.
• AsiaNews. (2026, 16 de julio). Nobel Laureates say no to the integration of AI and nuclear weapons.
• Pisa, P. (2026, 16 de agosto). Melissa Parke, direttrice di ICAN: “Liberiamoci dell’atomica prima che l’IA sfugga di mano”. La Repubblica.
• About the Assembly. (2026, 14 de julio). Exploring the deep civilizational and economic shift. Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War.
• Piana, F. (2026, 14 de julio). Guerra e IA: En Borgo Laudato si’ se reflexiona sobre el futuro. Vatican News.
• Piccini, D. (2026, 15 de julio). Entre la IA y la guerra nuclear, el compromiso de las religiones. Vatican News.
• Castellano, D. (2026, 16 de julio). Firmada la “Declaración de Roma”: la dignidad no es un algoritmo. Vatican News.
• Capelli, B. (2026, 17 de julio). “Declaración de Roma”: un compromiso sobre las armas nucleares y la IA. Vatican News.
• Videos: Vatican News – Rome Reports
• Foto: François Diaz-Maurin (Bulletin of the Atomic Scientists)