La Iglesia acompaña desarrollo de la IA con enfoque humano

5:00 p.m. | 28 nov 25 (CX/LCC).- En la Santa Sede, eventos recientes han puesto a la inteligencia artificial en el centro del debate global: un congreso médico que propuso criterios éticos para evitar la deshumanización clínica y una cumbre enfocada en la protección de menores en entornos digitales. León XIV les dedicó mensajes, con advertencias sobre tecnologías que manipulan y sistemas que erosionan los vínculo humanos. En este panorama, P. Paolo Benanti, experto del Vaticano, reflexiona sobre el enfoque que se busca inspirar desde la enseñanza católica y la necesidad de una “algor-ética” como brújula.

——————————————————————————————–

Sobre la IA, León XIV quiere que la Iglesia escuche y hable

Si algo ha quedado claro en los seis meses del pontificado de León XIV es que le importa profundamente la educación y que comprende con agudeza cómo las realidades emergentes del siglo XXI desafían a los educadores. “La inteligencia artificial (IA) está transformando muchos aspectos de nuestra vida cotidiana, incluida la educación, el entretenimiento y la seguridad de los menores”, dijo el Papa en Roma ante los expertos y educadores participantes de una conferencia sobre la dignidad de los niños y adolescentes en la era de la IA.

El uso de la IA “plantea importantes cuestiones éticas”, afirmó León, “especialmente en lo que respecta a la protección de la dignidad y el bienestar de los menores”, quienes son “particularmente vulnerables a la manipulación mediante algoritmos de IA capaces de influir en sus decisiones y preferencias”. El Papa es consciente de la necesidad de esfuerzos concertados, nacionales e internacionales, para salvaguardar a los menores, aunque no exclusivamente a ellos.

En este mismo marco de intervenciones recientes, León XIV también se ha dirigido a la comunidad médica, subrayando que el desarrollo tecnológico debe situarse siempre al servicio de la vida humana. “La IA ha de servir a la dignidad humana y a la prestación eficaz de la atención sanitaria, debemos asegurarnos de que realmente mejore tanto las relaciones interpersonales como la atención prestada”, señaló ante los participantes en el Congreso Internacional “Inteligencia Artificial y Medicina: El desafío de la dignidad humana”, celebrado en Roma.

“Por esta razón, los profesionales de la salud tienen la vocación y la responsabilidad de ser guardianes y servidores de la vida humana, especialmente en sus etapas más frágiles, y lo mismo vale para quienes aplican la IA en este ámbito (…) mayor es la nobleza que se exige a quienes tienen a su cargo su cuidado”. Estas palabras refuerzan la visión más amplia del pontífice: una IA que no eclipse la humanidad, sino que la proteja allí donde se encuentra más expuesta.

Vale mencionar al respecto que el Vaticano, bajo el pontificado de Francisco, comenzó a afrontar estos desafíos hace varios años mediante una serie de conferencias y el “Llamamiento de Roma por la Ética de la IA”. Firmado originalmente en febrero de 2020 por la Pontificia Academia para la Vida, Microsoft, IBM, la Organización de las Naciones Unidas para la Alimentación y la Agricultura, y el Ministerio de Innovación de Italia, el Llamamiento promueve un enfoque ético de la IA e involucra —por diseño— a líderes del sector tecnológico e industrial, del gobierno, del ámbito académico y de la sociedad civil. El número de signatarios del Llamamiento ha crecido a lo largo de los años en diversas categorías, al igual que las intervenciones papales sobre el tema.

También cabe mencionar que el tema elegido por León XIV para su Mensaje con ocasión de la Jornada Mundial de las Comunicaciones Sociales de 2026 es Preservar las voces y rostros humanos mientras el mundo lidia con la aparición de nuevas tecnologías profundamente disruptivas. “En los ecosistemas comunicativos actuales —indica el comunicado de prensa de la Santa Sede que anuncia el tema—, la tecnología influye en las interacciones como nunca antes: desde los algoritmos que seleccionan los contenidos en los feeds de noticias hasta la IA que redacta textos y conversaciones completas”.

“El desafío —continúa el comunicado— es garantizar que sea la humanidad la que siga siendo el agente guía. El futuro de la comunicación debe ser uno donde las máquinas sean herramientas al servicio y a la conexión de la vida humana, y no fuerzas que erosionen la voz humana”. Todo ello es más fácil decirlo que hacerlo, como diría cualquiera involucrado en la educación; y nadie tiene todas las respuestas.

La Iglesia católica, sin embargo, sabe bastante sobre la naturaleza humana y custodia un inmenso acervo de memoria histórica. El papa León XIV parece estar liderando con el ejemplo, alentando la práctica simultánea de escuchar y hablar en el ámbito de la comunicación. Bajo León —y bajo Francisco antes de él—, el Vaticano ha estado escuchando a expertos del ámbito técnico: quienes diseñan y comercializan las nuevas tecnologías y quienes estudian sus efectos; y ha estado hablando desde el núcleo duro de la sabiduría humana que la Iglesia conserva.

“Es ciertamente importante elaborar y aplicar directrices éticas —dijo León XIV en su mensaje a los educadores—, pero eso no basta”. Señaló que se necesitan “esfuerzos educativos cotidianos y continuos, realizados por adultos que a su vez estén formados y respaldados por redes de colaboración”. Para desarrollar esas redes, los adultos deben comprender los riesgos inherentes al uso de la IA. El perfil de riesgos está cambiando tan rápidamente como se desarrolla la tecnología misma, lo que hace muy difícil mantenerse al día respecto de los desafíos concretos. En suma, hay muy poco tiempo para pensar las cosas con calma.

León XIV es consciente también de lo que está en juego. Describió la misión de comprender la tecnología emergente de la IA como “un ejercicio vital para salvaguardar la originalidad y la interconexión humanas, que siempre debe guiarse por el respeto a la dignidad humana como valor fundamental (…) solo adoptando un enfoque educativo, ético y responsable —afirmó— podremos garantizar que la IA sea un aliado, y no una amenaza, para el crecimiento y el desarrollo de los niños y adolescentes”. Una tarea enorme. Es también una prueba más del deseo de León de poner al servicio de estos desafíos la “experta en humanidad” que es la Iglesia —para usar la expresión de san Pablo VI— a fin de afrontar y sobreponerse a las disrupciones del siglo XXI de un modo que sitúe la naturaleza humana en primer plano, antes de que la propia humanidad permita que se la eclipse. La pregunta es: ¿cómo?

VIDEO. León XIV: El algoritmo jamás podrá sustituir un gesto de cercanía

Congreso sobre IA, medicina y salud

El Papa: La IA puede servir a la dignidad humana y a una eficaz atención médica

En su mensaje a los participantes en el Congreso Internacional “Inteligencia Artificial y Medicina: El desafío de la dignidad humana”, organizado por la Pontificia Academia para la Vida (PAV) en colaboración con la Federación Internacional de las Asociaciones Médicas Católicas (FIAMC), León XIV señala que la “revolución digital” desempeña un papel fundamental en este “cambio de época”.

Actualmente, subraya el Papa, presenciamos una época de nuevos avances tecnológicos comparable, en algunos aspectos, a la Revolución Industrial, pero de mayor alcance. Estos cambios influyen profundamente en nuestra forma de pensar, alterando nuestra comprensión de las situaciones y la manera en que nos percibimos a nosotros mismos y a los demás: “Interactuamos con las máquinas como si fueran interlocutoras (…) en este sentido, no solo corremos el riesgo de perder de vista a las personas que nos rodean, sino también de olvidar cómo reconocer y valorar todo lo que es verdaderamente humano”.

La dignidad humana y el bien común son prioridades fundamentales

Asimismo, el pontífice señaló que el desarrollo tecnológico ha brindado grandes beneficios, especialmente en la medicina, pero que el verdadero progreso solo es posible si la dignidad humana y el bien común se mantienen como prioridades. Recordó, además, el potencial destructivo de la tecnología —incluso en la investigación médica— cuando se pone al servicio de ideologías antihumanas: “En este sentido, los acontecimientos históricos nos sirven de advertencia: los instrumentos a nuestra disposición hoy son aún más poderosos y pueden tener un efecto aún más devastador en la vida de las personas y los pueblos. Sin embargo, si se canalizan adecuadamente y se ponen al verdadero servicio de la persona humana, estos efectos también pueden ser transformadores y beneficiosos”.

Desde esta perspectiva, León XIV destaca la importancia de explorar el potencial de la IA en la medicina. Ya que, la fragilidad de la condición humana se manifiesta a menudo en el ámbito de la medicina, pero jamás debemos olvidar, puntualiza, la “dignidad ontológica inherente a la persona por el mero hecho de existir y ser querida, creada y amada por Dios”. Explica que por esta razón, “los profesionales de la salud tienen la vocación y la responsabilidad de ser guardianes y servidores de la vida humana, especialmente en sus etapas más vulnerables. Lo mismo puede decirse de quienes son responsables del uso de la IA en este campo. En efecto, cuanto mayor es la fragilidad de la vida humana, mayor es la nobleza que se exige a quienes tienen a su cargo su cuidado”.

Promover las relaciones humanas

Para el Santo Padre, la medicina tiene como fin atender a las personas, lo que subraya la naturaleza irremplazable de las relaciones humanas. El profesionalismo médico exige no solo pericia técnica, sino también capacidad de comunicación y de vínculo; por ello, no puede reducirse a la simple resolución de un problema: “Asimismo, los dispositivos tecnológicos jamás deben menoscabar la relación personal entre pacientes y profesionales de la salud. En efecto, si la IA ha de servir a la dignidad humana y a la prestación eficaz de la atención sanitaria, debemos asegurarnos de que realmente mejore tanto las relaciones interpersonales como la atención prestada”.

Finalmente, destacando la participación de ponentes de diferentes continentes y procedencias en el Congreso, el Obispo de Roma afirma que es fundamental promover una amplia colaboración entre todos los que trabajan en el ámbito sanitario y político, que trascienda las fronteras nacionales; “dados los enormes intereses económicos que suelen estar en juego en los campos de la medicina y la tecnología, y la consiguiente lucha por el control”.

LEER. Mensaje completo del Papa a los participantes del evento sobre IA y medicina

VIDEO. El Papa alerta sobre el riesgo de que la IA “deshumanice” la salud

 

Declaración final del Congreso

Al concluir el encuentro internacional organizado por la Federación Internacional de Asociaciones Médicas Católicas (FIAMC) y la Pontificia Academia para la Vida (PAV), se presentaron una serie de principios éticos para el uso de la IA en la práctica médica. Mons. Renzo Pegoraro y el profesor Bernard Ars, presidentes de la PAV y la FIAMC, subrayaron que el asombro ante los avances debe ir acompañado de una reflexión sobre el impacto en las relaciones personales y sociales. El comunicado final, que aborda lo tratado en el congreso, retoma las indicaciones del papa Francisco: la dignidad humana y la fraternidad deben guiar el desarrollo y evaluación de toda tecnología. En el ámbito sanitario, se subraya que la IA debe apoyar el juicio clínico, mejorar la precisión diagnóstica y favorecer mejores resultados, sin reemplazar la competencia, la empatía ni la responsabilidad del médico.

Supervisión, criterio clínico, transparencia

La PAV y la FIAMC insisten en que la IA debe estar subordinada al razonamiento clínico: “Las decisiones relativas al tratamiento de los pacientes y la responsabilidad que estas conllevan deben seguir siendo competencia del ser humano y nunca deben delegarse a la IA”. Advierten, además, que el médico no debe “dejarse hipnotizar por el encanto de los resultados tecnológicos” y subrayan la importancia de la transparencia: “Los médicos deben ser capaces de comprender y explicar cómo se generan las recomendaciones derivadas de la IA”, ya que los algoritmos opacos “corren el riesgo de socavar la confianza y la responsabilidad clínica”.

La declaración exige máxima vigilancia ante el riesgo de que datos incompletos perpetúen desigualdades y advierte que la IA no debe ampliar la brecha entre contextos con distintos recursos. Todos los pacientes deben beneficiarse de los avances tecnológicos: “Optimizar los recursos significa utilizarlos de manera ética y fraternal, sin penalizar a los más vulnerables”. Se recomienda además fomentar datos inclusivos y representativos en el desarrollo de la IA.

Privacidad, responsabilidad

Se advierte al personal médico que el uso de datos de los pacientes en aplicaciones de IA debe cumplir con las normas legales y éticas, y que la confidencialidad profesional debe extenderse también a este ámbito. La PAV y la FIAMC subrayan que “sería importante distinguir cuándo el error es atribuible al médico por un uso indebido de estos sistemas, o cuándo es única y exclusivamente atribuible al hospital que gestiona y configura la herramienta, o a la empresa de IA”. Aunque eficaces, las técnicas numéricas presentan limitaciones epistemológicas y lógicas, por lo que no pueden sustituir la complejidad del pensamiento humano ni la riqueza de las relaciones personales. Algunas dimensiones profundas del cuidado no pueden ser reemplazadas por procedimientos optimizados o robots autónomos, y el criterio rector sigue siendo que “el paciente no es un problema que hay que resolver (con tecnologías), sino un misterio que revela al mismo Cristo”.

LEER. Declaración final del Encuentro Internacional

VIDEO. Video invitación al Congreso internacional – Prof. Renzo Pegoraro, Presidente del PAV

 

Conferencia de prensa después del Congreso

En un encuentro con medios vaticanos, Mons. Pegoraro advirtió que no debe caerse en la tentación de “humanizar” la tecnología ni “mecanizar” al ser humano: la sensibilidad y la empatía siguen siendo irreemplazables, y el paciente no es una cifra, sino una persona. Bien empleada, la IA puede servir a la salud y al bien común, haciendo la atención médica más justa y accesible. Luego se centró en el papel de la Iglesia de orientar éticamente estas tecnologías, comprendiendo cómo funcionan y verificando que sean transparentes, no discriminatorias y libres de sesgos. Mencionó además iniciativas de cooperación internacional, como el “Llamamiento de Roma por la Ética de la IA” y los encuentros de Hiroshima, que sumaron al budismo, el hinduismo y el taoísmo, demostrando que las grandes religiones pueden ayudar a proteger a la humanidad mediante el diálogo con empresas e instituciones.

El doctor John Lane, vicepresidente de la FIAMC, consideró el congreso “extraordinario”, por haber sabido combinar la perspectiva técnica con la reflexión filosófica sobre la IA. “El mensaje clave que me llevo —dijo— es la importancia de preservar el elemento humano en la prestación de cuidados, evitando que las relaciones personales entre médico y paciente sean reemplazadas por algoritmos. Cuidar a una persona es un trabajo exigente, como toda relación humana, y no podemos aceptar atajos que deshumanicen la práctica médica”. Lane también destacó el papel de la Iglesia en guiar el desarrollo ético de la IA “con un trabajo intenso y constante”.

Llevar las cuestiones éticas a los responsables del sector IA

La profesora Therese Lysaught subrayó que la IA representa un cambio de paradigma también para la bioética católica. “Tradicionalmente, la bioética reacciona ante los avances; hoy, gracias al trabajo de la PAV y al apoyo del Papa, podemos colocar estos temas en el centro de las discusiones de manera proactiva, resaltando lo positivo que hemos visto en estos tres días de diálogo”. Lysaught observó el entusiasmo y la sorpresa que generan los desarrollos tecnológicos. “Para la medicina, este enfoque resulta fascinante, casi de ciencia ficción, como en Star Trek. Desde la perspectiva de la salud global, informes provenientes de la India y de Cataluña muestran cómo estas tecnologías pueden promover la salud y su acceso, ofreciendo nuevas esperanzas a los profesionales del sector”.

El doctor Otmar Kloiber, secretario general de la Asociación Médica Mundial, precisó que la IA está penetrando rápidamente en la medicina, uno de los ámbitos donde esta tecnología avanza con mayor velocidad en la vida cotidiana. Reconoció sus beneficios: acelerar diagnósticos y tratamientos, mejorar la precisión e incluso hacer las terapias más “personalizadas”. Sin embargo, advirtió también sobre los riesgos ya mencionados previamente y resaltó que los ciudadanos tienen un papel esencial en definir el rumbo que debe tomar la IA. “Conferencias como esta, en las que se comparten visiones, opiniones, pero también fe y esperanza, son fundamentales para planificar y orientar el uso de la IA en la medicina”, finalizó.

LEER. Todo sobre el evento “Inteligencia Artificial y Medicina: El desafío de la dignidad humana”

VIDEO. Video invitación al Congreso internacional – Prof. Bernard Ars, Presidente de FIAMC

Sobre el evento de protección de menores en la era de la IA

En su encuentro con los participantes de la conferencia “La dignidad de los niños y adolescentes en la era de la IA”, el Papa insistió en la responsabilidad de los adultos, a quienes definió como “artesanos de la educación”, y en la necesidad de promover una “educación digital” que forme a los menores en el uso responsable de las nuevas tecnologías. Asimismo, instó a los gobiernos y organismos internacionales a actualizar las leyes de protección de datos y a establecer normas éticas para el desarrollo de la IA, de modo que esta sea “una aliada y no una amenaza” para el crecimiento de las nuevas generaciones.

En la reunión participaron también expertos internacionales, incluidos representantes del ámbito eclesial, quienes al concluir entregaron a León XIV el documento Nuevo pacto humano para la era digital, que incorpora una declaración de intenciones dirigida a gobiernos, instituciones, empresas y ciudadanos, y reafirma “el derecho de todos los niños a vivir, crecer y soñar con seguridad”.

Seis pilares de acción

El texto del manifiesto, según han informado la Fundación Child y la Child Dignity Alliance, organizadoras del simposio titulado, se articula en seis pilares de acción:

• Protección y seguridad para prevenir cualquier forma de abuso y explotación de los niños online y a través de la inteligencia artificial;
• Educación y empoderamiento para promover la conciencia digital y emocional de los niños, los padres y los educadores;
• Tecnología ética y transparente para apoyar una IA basada en valores humanos como la responsabilidad, la equidad y la compasión;
• Gobernanza y responsabilidad globales para reforzar la cooperación internacional y la protección de los derechos de los menores;
• Investigación e innovación para el bien, con el fin de que puedan orientar la tecnología hacia el bienestar, la salud, la inclusión y la educación de los niños;
• Solidaridad interreligiosa e intergeneracional: unir las voces de diferentes credos y generaciones en un compromiso moral común.

Padre Lombardi: “Una nueva etapa de un largo camino”

En la encuentro internacional participó el padre Federico Lombardi, presidente del consejo de administración de la Fundación vaticana Joseph Ratzinger – Benedetto XVI, quien quiso subrayar que este evento debe considerarse una nueva etapa de un largo camino: “Comenzó, en particular, en 2017 con un importante congreso celebrado en la Pontificia Universidad Gregoriana dedicado a la protección de la dignidad de los niños en el mundo digital. Con el cambio de las situaciones tecnológicas y digitales, hoy nos preocupa el hecho de que el contexto en el que vivimos ahora no solo ofrece posibilidades positivas, sino que también ha aumentado en gran medida las negativas y peligrosas”.

Padre Zollner: “Relanzar la alianza entre la sociedad civil y las instituciones”

También estuvo presente el padre Hans Zollner, director del Instituto de Antropología de la Gregoriana, miembro del consejo de administración de la Child Dignity Alliance y considerado uno de los máximos expertos en el ámbito de la protección y la prevención del abuso. “Lo que estamos haciendo es relanzar nuestra alianza compuesta por fuerzas de la Iglesia y de las otras religiones, miembros del mundo de la educación y las empresas, y las fuerzas del orden, para tratar de responder a estas preguntas fundamentales: ¿cómo podemos proteger a los niños, los adolescentes y todas las personas en situación de riesgo? ¿Y cómo podemos prevenir los abusos?”.

LEER. Manifiesto completo entregado al final del Encuentro

LEER. Parolin: proteger la dignidad de los menores en la era de la IA

VIDEO. Papa León XIV: Protejamos a los niños en la era de la IA

Inteligencias artificiales e inteligencias encarnadas

En el marco de las recientes iniciativas de la Santa Sede para acompañar y orientar la evolución de la IA, presentamos una extensa entrevista del año 2023 con el P. Paolo Benanti, franciscano, profesor de Teología Moral en la Pontificia Universidad Gregoriana y asesor cercano del Vaticano. Su trabajo de investigación, docencia y divulgación se centra en la ética, la bioética y la ética de las tecnologías. Con notable claridad pedagógica, Benanti es una voz frecuente en los medios y colabora con diversas instituciones académicas, gubernamentales e internacionales. En diálogo con La Civiltà Cattolica, ofreció claves de lectura sobre cuestiones decisivas para el futuro de la humanidad.

-P. Benanti, usted fue nombrado en el 2023 por el Secretario General de las Naciones Unidas, António Guterres, como miembro del “High-Level Advisory Body on Artificial Intelligence” de la ONU.

El desarrollo rápido y global de la IA ha tomado por sorpresa a la mayoría de las personas. Este escenario de cambio veloz, de hecho, es un proceso interdisciplinario que cuestiona habilidades y disciplinas diversas, poniendo sobre la mesa numerosos factores de crisis y nuevos estímulos. El primer elemento a destacar es precisamente esto: el hecho de que la IA es un gran desafío para todos. En este frente general de transición, pertenecer a una institución, la Iglesia, y a una Orden, los franciscanos, que han atravesado otras grandes transiciones sociales y culturales, ayuda a vislumbrar en los diferentes elementos de cambio algunas instancias de continuidad y otras de novedad. Creo que esta coyuntura histórica, con el cambio de muchos elementos hasta ahora consolidados, también puede llevar al desarrollo de nuevos diálogos entre la Iglesia y el resto del mundo.

-Partamos de las definiciones. Cuando hablamos de IA hoy, ¿de qué estamos hablando exactamente?

Precisamente en la definición de lo que son las IA encontramos las primeras dificultades. En un contexto en el que se busca regular este sector, encontrar una definición que abarque las diversas implementaciones técnicas de los sistemas de IA es muy complejo. Por un lado, los reguladores buscan una descripción de que incluya sistemas muy diversos entre sí; por otro lado, las empresas intentan eludir límites específicos para poder eventualmente evadir futuras normativas de control. En este debate, una definición que incluye de manera adecuada diversas formas de IA es la propuesta por la Unión Europea en el borrador del AI Act. Aquí se establece que por “inteligencia artificial” podemos entender un software desarrollado con una o más de las técnicas y enfoques enumerados en una tabla técnica específica, “que puede, para una serie determinada de objetivos definidos por el ser humano, generar resultados tales como contenidos, previsiones, recomendaciones o decisiones que afectan a los entornos con los que interactúan”.

Hoy en día, la expresión “inteligencia artificial” se utiliza como un término genérico para varias aplicaciones informáticas basadas en diversas técnicas, que muestran capacidades comúnmente y actualmente asociadas a la inteligencia humana. Los sistemas que califican como IA actúan registrando el contexto de su funcionamiento mediante la adquisición de datos, el análisis de datos estructurados o no estructurados, produciendo formas de conocimiento o procesamiento de información derivada de los datos y, sobre esta base, disfrutan de una capacidad de acción optimizada para lograr un objetivo específico. Las IA pueden diseñarse para adaptar su comportamiento con el tiempo según nuevos datos y mejorar su rendimiento con miras a un objetivo determinado.

-Surgen muchas preguntas cuando hablamos de IA: cuestiones éticas, preguntas sobre las consecuencias en el mercado laboral, o sobre el tratamiento y control de los datos personales. ¿Podemos realmente decir que la IA es neutral desde el punto de vista ético-moral y que todo depende de su uso o solo de un buen ingeniero informático? ¿Cuáles son los aspectos realmente centrales de la IA que tienen o tendrán un impacto real en nuestras vidas?

Langdon Winner, académico estadounidense conocido por sus estudios sobre la relación entre ciencia, tecnología y sociedad, cuestiona fuertemente –en su famoso ensayo Do Artifacts Have Politics?– la idea de que exista neutralidad ética en los artefactos tecnológicos, mostrando cómo algunas implementaciones tecnológicas pueden tener características éticas y políticas intrínsecas. Un ejemplo frecuentemente citado en su ensayo se refiere a la altura de los puentes sobre las carreteras de Long Island, construidos según normas específicas que impedían el paso de autobuses. Según Winner, esto era una forma de limitar el acceso de las minorías raciales y grupos de bajos ingresos, que no podían permitirse un vehículo personal y se desplazaban en autobús.

El ejemplo de Winner muestra cómo el diseño tecnológico no debe considerarse neutral, ya que impone una cierta forma de orden y disposición de poder en el impacto social de la tecnología misma, y puede ser utilizado para imponer un programa político particular. Esta conciencia que impregna el enfoque ético hacia la tecnología nos lleva a reconocer cada artefacto como un sistema sociotecnológico. La IA, en tanto artefacto, goza de las mismas propiedades. La forma en que la estamos desarrollando –la elección de algoritmos matemáticos y datos con los que entrenamos estos sistemas; la forma en que implementamos dichos sistemas; y finalmente, el diseño de la interfaz entre la máquina y el usuario, la llamada experiencia del usuario– es equivalente al concreto de los puentes sobre las carreteras de Long Island.

Tomemos, finalmente, la perspectiva de un filósofo italiano que se ocupa del ámbito digital, Cosimo Accoto. Según él, las IA tienen sobre los sistemas mecánicos una función predictiva de lo que sucederá. En los seres humanos, afirma el filósofo, esta función genera comportamientos, como los consejos de compra de las plataformas de compras en línea. A la luz de esto, es lícito imaginar y temer un futuro en el cual la IA podría tener un impacto fuerte en nuestra libertad, convirtiéndose en un “tutor social” que nos guía hacia comportamientos considerados positivos. Las preguntas sobre las posibilidades futuras de la IA para dar forma al mundo, en este punto, ya no son de naturaleza socioeconómica, sino ética y política. Y la pregunta que surge de manera apremiante es: ¿qué futuro queremos construir con la ayuda de estas tecnologías?

-En un tiempo en el que corremos el riesgo de entrar en la Tercera Guerra Mundial, o ya la tenemos “a pedazos”, como afirma el papa Francisco, ¿qué podemos decir sobre la relación entre la IA y la guerra? ¿Qué impacto ya está teniendo o podría tener?

En un reciente diálogo con el filósofo Sebastiano Maffettone sobre el tema de la IA y los conflictos, reflexionamos sobre el modo en que muchas cosas han cambiado en los conflictos armados en el último siglo: los intereses en juego, los combatientes, el espacio en el que se libran las batallas, los lenguajes. Han hecho su aparición los drones. Recientemente, un panel de expertos de las Naciones Unidas informó sobre el uso de un pequeño dron de fabricación turca, llamado STM Kargu, que en 2020 se convirtió en el primer dispositivo dirigido por IA en matar a seres humanos (soldados involucrados en un combate en Libia contra las unidades de Haftar). Este dron es capaz de operar de manera totalmente autónoma.

En el informe de la ONU se menciona que “los sistemas de armas estaban programados para atacar objetivos sin requerir conectividad de datos entre el operador y el munición”; en otras palabras, se basaban en la visión por computadora y el reconocimiento de objetivos mediante IA. Técnicamente, los drones de este tipo se llaman municiones loitering, es decir, “vagabundas”; suelen ser verdaderas municiones, a menudo granadas, que vuelan unidas a un dron para realizar misiones “suicidas” y explotar junto con el portador una vez alcanzado el objetivo. Estos armamentos causaron estragos entre los combatientes de Haftar, ya que sus milicias no estaban entrenadas para defenderse de esta nueva tecnología.

Noticias como estas –el uso de armas autónomas– nos obligan a reflexionar sobre la transformación de los conflictos armados y la posibilidad de que un ser humano sea asesinado por una máquina. Todo esto, hoy en día, es realizable y accesible incluso para facciones en guerra (y no solo para las llamadas “superpotencias”). En el desafortunado contexto de la guerra, las IA añaden al problema de la letalidad de los medios la potencial facilidad de uso y de difusión.

Hay otro cambio que resulta sorprendente: a los dominios tradicionales (tierra, mar, aire, ciberespacio y espacio), la OTAN ha añadido recientemente un nuevo espacio de competencia y conflicto, el dominio cognitivo. En este nuevo campo de batalla, que se lleva a cabo en la mente humana, el objetivo es cambiar no solo el pensamiento de las personas, sino también la manera en que piensan y actúan. Aquí también, las IA son potenciales protagonistas, especialmente las generativas: gracias a su capacidad para producir contenido verosímil y de gran habilidad persuasiva, se destacan como posibles herramientas bélicas. En este escenario, la manipulación cognitiva podría usarse no para destruir ciudades o exterminar seres humanos, sino para destruir la cohesión social y el espacio democrático. Desde este punto de vista, el Mensaje para la Paz anunciado por el papa Francisco para el próximo 1 de enero de 2024, que tendrá como tema principal las inteligencias artificiales, parece más oportuno y relevante que nunca.

-¿En qué punto se encuentra la reflexión de la Iglesia sobre la IA? ¿Existe ya algún pronunciamiento del Magisterio? ¿Puede abrirse un nuevo capítulo en la doctrina social de la Iglesia?

La reflexión de la Iglesia sobre la IA está en constante evolución y se centra principalmente en la ética y la antropología: lo que está surgiendo pretende promover una reflexión crítica sobre la IA y su papel en la sociedad. El papa Francisco subraya la importancia de establecer límites para evitar posibles abusos en esta frontera de la humanidad, junto con una nueva y más urgente necesidad ética, o “algorética” (en referencia al desarrollo ético de los algoritmos). El cambio de época de la vida humana, inaugurado por lo digital y la IA, debe abrirse, por tanto, bajo el signo de la responsabilidad y la búsqueda del bien por parte de todas las personas de buena voluntad. Este proceso debe llevarnos a tomar conciencia de que el diseño y la aplicación de la tecnología están condicionados por una serie de factores sociales y económicos, además de por consideraciones estrictamente técnicas.

En este empeño, la Santa Sede desea asociarse con todas las personas de buena voluntad que buscan ampliar la agenda de la política tecnológica adoptando un enfoque del desarrollo, la implementación y el uso de sistemas de IA que se caracterice por la ética aplicada a las tecnologías digitales. Precisamente por este motivo, el Santo Padre, en su Discurso a la Plenaria de la Pontificia Academia para la Vida del 28 de febrero de 2020, afirmó que es necesario profundizar en la frontera de la algorética, que “puede ser un puente para que los principios se inscriban concretamente en las tecnologías digitales, a través de un diálogo transdisciplinar eficaz”. Además, en el encuentro entre distintas visiones del mundo, los derechos humanos constituyen un importante punto de convergencia en la búsqueda de un terreno común. En la actualidad, además, parece necesaria una reflexión actualizada sobre los derechos y deberes en este ámbito. En efecto, la profundidad y la aceleración de las transformaciones de la era digital plantean cuestiones inesperadas, que imponen nuevas condiciones al “ethos” individual y colectivo.

Las aportaciones que vendrán del Mensaje por la Paz y del Mensaje para la Jornada de las Comunicaciones Sociales, ambos sobre el tema de la IA, podrían ampliar aún más estas reflexiones. Siempre es una apuesta predecir lo que sucederá en el futuro, pero esta área tiene el potencial de convertirse en una de las direcciones de expansión de la doctrina social de la Iglesia. Lo supongo, porque la propia Iglesia ya ha expresado la necesidad y la urgencia de integrar los principios éticos en la IA y ha subrayado la importancia de un consenso entre los responsables políticos, las agencias de la ONU, los investigadores, los académicos y los representantes de las organizaciones no gubernamentales. Creo que hay un enorme margen para profundizar en esta cuestión.

LEER. Entrevista completa publicada en La Civiltà Cattolica

VIDEO. Conferencia del Vaticano: La IA debe apoyar, no sustituir, la atención al paciente

Información adicional

• Portal web del Congreso “IA y Medicina: El desafío de la dignidad humana”
• Portal web del Encuentro “La dignidad de los niños y adolescentes en la era de la IA”
• El papa León XIV: Asumir un nuevo humanismo para la era digital
• Humanismo digital: el futuro sensato de la IA está en las reglas y en los límites
• Universidades católicas en red por un nuevo humanismo en la era de los algoritmos
• El Papa alerta sobre el riesgo de que la IA “deshumanice” la salud
• León XIV: La IA no debe limitarse a laboratorios e inversiones
• Digital Rerum Novarum: Una IA para la Paz, la Justicia Social y el Desarrollo Humano Integral
• IA para el desarrollo humano de América Latina y el Caribe

Publicaciones relacionadas en Buena Voz Católica

• El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
• Inteligencia artificial: las religiones piden una algorética
• Inteligencia artificial y abusos: Iglesia busca educar y prevenir
• La Santa Sede presenta doctrina sobre la inteligencia artificial
• ¿Cómo usar inteligencia artificial? Un manual católico
• Influencia de la Iglesia en el futuro de la IA
• Fraile experto en Inteligencia Artificial que asesora al Papa
• Universidades católicas: Usar inteligencia artificial con responsabilidad
• Inteligencia artificial y la fe, ¿condenados a entenderse?
• Educadores cristianos: No tengan miedo del ChatGPT
• Nuevas tecnologías no deben suprimir lo humano
• Inteligencia artificial y justicia social

Fuentes

• Altieri, C. (2025, 16 de noviembre). On AI, Leo XIV wants the Church to listen and to speak. Crux.
• Martínez, R. (2025, 10 de noviembre). El Papa: La IA puede servir a la dignidad humana y a una eficaz atención médica. Vatican News.
• Vatican News. (2025, 11 de noviembre). La IA no puede sustituir competencia y responsabilidad del médico.
• Giribaldi, E. (2025, 12 de noviembre). IA y medicina, Pegoraro: el paciente es un conjunto de emociones. Vatican News.
• Ynestroza, P. (2025, 13 de noviembre). El papa León XIV pide proteger la dignidad infantil ante la inteligencia artificial. Vatican News.
• Piana, F. (2025, 13 de noviembre). Infancia, un nuevo pacto humano para la era digital. Vatican News.
• Da Silva, Nuno. (2023, 15 de diciembre). Inteligencias artificiales e inteligencias encarnadas. La Civiltà Cattolica.
• Bresnick, J. (2025, 13 de noviembre). The pope weighs in on AI in healthcare with a call to retain humanity. DHInsights.
• Fondazione Child. (2025, 13 de noviembre). A declaration promoted by Fondazione Child and the Child Dignity Alliance.
• Videos: Pontificia Academia para la Vida – Catholic News Service – EWTN News – Vatican Media
• Foto: Vatican Media