Inteligencia artificial y abusos: Iglesia busca educar y prevenir
7:00 p.m. | 26 mar 25 (VTN/AO).- Los avances en inteligencia artificial (IA) presentan nuevos riesgos en la lucha contra los abusos a menores, lo que motivó dos importantes eventos. En Lima, más de 500 responsables eclesiales se actualizaron en métodos preventivos, mientras que en el Vaticano, expertos discutieron cómo la IA puede ser una herramienta útil en el cuidado infantil, pero también cómo su uso incorrecto puede aumentar significativamente los peligros para la seguridad de los menores. En ambos encuentros se hizo énfasis en la formación continua y la responsabilidad como claves.
——————————————————————————————–
Más de 500 apóstoles de la prevención renuevan su misión en la Iglesia
En Lima, Perú, se realizó el IV Congreso Latinoamericano de CEPROME, organismo pionero de formación de agentes que promueven espacios eclesiales seguros. 514 personas de 23 países participaron durante tres días en la iniciativa que desde hace ocho años trabaja en todo el continente para promover la prevención de abusos a menores en la Iglesia.
El tema central este 2025 fue la inteligencia artificial (IA) y los desafíos que plantea a quienes se dedican a impulsar ambientes seguros y protegidos en todos los ámbitos eclesiales. Como explicaron los ocho expertos que expusieron en ponencias y condujeron talleres, esta nueva tecnología ha invadido la vida cotidiana y entenderla es un reto urgente. Si bien todos coincidieron en reconocer los enormes beneficios que la IA trae al mundo, aseguraron que no hay que ser ingenuos, porque trae aparejados muchos peligros, y porque quienes están más expuestos a ellos son los de más corta edad.
La doctora María Inés Franck, Directora de CEPROME Latinoamérica, manifestó en la apertura del congreso que “muchos se sorprendieron de la elección del tema. Hoy en día, aunque no nos demos cuenta de ello, la IA está transformando nuestra manera de vivir en todas las dimensiones”. Y preguntó luego: “¿Cómo se conecta la IA con el abuso sexual?”.
“La respuesta está en las múltiples maneras en que la tecnología puede tanto ayudar como perjudicar en la lucha contra esta violencia. La IA tiene el potencial de ser una herramienta poderosa para prevenir, detectar y erradicar el abuso sexual. Sin embargo, como toda herramienta, también puede ser utilizada para fines oscuros. La creación y distribución de material pornográfico no consensuado, videos manipulados que involucran a personas en situaciones que no han ocurrido, entre otras posibilidades. La IA puede ser utilizada para crear contenido falso y dañino, que puede llevar a la revictimización y la difamación de las personas”, explicó Franck.
Tomar conciencia de dichos riesgos es algo fundamental para quienes trabajan en la prevención de abusos a menores, y según la directora de CEPROME, es esencial comprender que las mayores amenazas no se dan solo en ambientes físicos o geográficos, sino también en aquellos virtuales. Para esta abogada argentina, en dichos espacios “muchas personas pasan la mayor parte de su vida. Entonces, descuidar estos ambientes online, descuidar todo el campo virtual y todo lo que lo digital viene suscitando, es realmente descuidar una parte importante de la prevención, a veces la más importante”.
LEER. Programa completo del Congreso / Página web
VIDEO. CEPROME: 514 apóstoles de la prevención renuevan su misión en la Iglesia
El mensaje del Papa: la responsabilidad
Pese a que en esos días tenía la salud muy afectada, el papa Francisco hizo llegar al IV Congreso de CEPROME un mensaje sobre la responsabilidad que le compete a cada uno ante esta nueva tecnología. De acuerdo al Pontífice estas responsabilidades recaen sobre los usuarios de IA, pero también sobre quienes las han diseñado. Por eso pidió que las autoridades competentes impongan límites y normas claras que permitan perseguir su uso nocivo o delictivo.
En su discurso, el Papa comenzó planteando que Internet, al hacer que todo se vea desde una ventana, crea una sensación de impunidad, pues facilita que la gente eluda la responsabilidad de su participación en el universo paralelo de la red. Sin embargo, para Francisco, con la IA dicha impunidad aumenta de grado no solo a través de la visión, recopilación o difusión de materiales inapropiados, sino también por medio de la creación de contenidos aparentemente nuevos, pero que son sintéticos, es decir, confeccionados a partir de material que ya existía en el ciberespacio.
“El no haber sido nuestra mano a producir esos materiales podría crear la falsa ilusión de que no somos nosotros a ‘hacer’ algo vergonzoso: a agredir a una persona, a robar una imagen, a usar un concepto o una idea de otro, a exponer algo íntimo que debía quedar en la esfera privada de la persona. Pero, no es cierto, la máquina sigue nuestras órdenes, ejecuta, no toma las decisiones, sino que está programada para ello”, denunció el Pontífice.
El mensaje de Francisco enumeró los perjuicios que puede traer aparejado un uso malicioso e irresponsable de la IA: “Daño para aquellos que viendo lo que hemos producido lo quieran emular; daño a causa del enorme flujo de materiales inadecuados que contaminan el entorno; daño en la dificultad que encuentran las autoridades para discernir entre material real y sintético en orden de velar por la seguridad de las posibles víctimas, etc.”. Según el Papa, los responsables de que estas tecnologías sean más seguras son tanto quienes las usan como quienes las han diseñado.
De cara a los desafíos que la IA plantea a la lucha en contra de los abusos en la Iglesia, el Santo Padre aseguró que hay dos tareas primordiales: la primera es dar “voz a Dios y a las víctimas que a Él imploran, de modo que se tome conciencia del daño que se está produciendo” y, al mismo tiempo, “desvelar la mentira que supone el escudarnos en la tecnología para descargar nuestra conciencia”. Por eso Francisco exhortó a “pedir a los individuos, a los diseñadores de estas tecnologías y a las autoridades competentes, que se impongan límites y normas claras, concretamente evaluables, que permitan perseguir su uso nocivo o delictivo”.
Según el padre Daniel Portillo, teólogo y psicólogo experto en acompañamiento de víctimas, el Papa da en el clavo al apuntar a las responsabilidades individuales, colectivas e institucionales de cara a quien crea y diseña las IA, porque siempre hay alguien tratando de sacar partido. “No es que la IA se mande sola, como señalaba el Papa, sino que también implica la voluntad que uno ejerce en el uso de una aplicación, al dar un clic. Me parece fundamental la idea de hablar de la responsabilidad, y de todo lo que se desmiembra de la cuestión ética a partir del mensaje del Papa”, expresó el padre Portillo.
María Inés Franck, valoró profundamente el mensaje de Francisco: “El Santo Padre ha animado y confirmado constantemente nuestros esfuerzos para crear una cultura de la prevención en la Iglesia. Sus reflexiones profundizan nuestra comprensión de esta nueva realidad y nos ilumina el camino para seguir luchando contra los abusos y creando espacios eclesiales que favorezcan la protección de todos, particularmente, de niños, niñas y adolescentes en toda América Latina”, comentó agradecida la abogada argentina.
LEER. Mensaje completo del papa Francisco dirigido al Congreso del CEPROME
VIDEO. Dra. Franck (CEPROME): “Estamos dando pasos firmes en el camino de la prevención”
Presencia de la Santa Sede
Quien viajó desde el Vaticano para participar en el IV Seminario Latinoamericano de CEPROME fue monseñor Luis Manuel Alí Herrera, Secretario de la Pontificia Comisión para la protección de Menores. Por mandato del Papa, este obispo colombiano lidera los esfuerzos de la Santa Sede para luchar en contra de los abusos sexuales, un combate que, según él, requiere de la colaboración de todos, particularmente de quienes están en la base del trabajo en la Iglesia.
“Los catequistas, el padre de familia, los encargados de la Infancia Misionera o del grupo de acólitos, esos son los apóstoles de la prevención, los primeros que tienen que integrar en los procesos de evangelización el esfuerzo que hacemos. La protección de menores no es una parte departamentalizada de nuestra acción evangelizadora, sino que la asumimos como una buena noticia también: que la Iglesia es un hogar seguro para nuestras niñas, niños, adolescentes y personas vulnerables”, afirmó monseñor Alí.
Al momento de la apertura del Congreso, Mons. Alí insistió acerca de la necesidad de establecer mecanismos de cooperación internacional y eclesial para el intercambio de buenas prácticas frente a los retos de la IA. Para el Secretario, los desafíos “son de tal envergadura que no pueden ser gestionados de manera autónoma, como si fuéramos llaneros solitarios de la salvaguarda digital”. El prelado, además, valoró las oportunidades que ofrece esta nueva dimensión de la tecnología, ya que también permite poner en red a víctimas y sobrevivientes de violencia sexual, generando espacios para escuchar testimonios y recopilar datos que facilitan la gestión de acciones legales y proporcionan apoyo jurídico.
Por último, Mons. Alí abordó las acciones que desde la Iglesia se vienen emprendiendo para comprender este fenómeno, entre estas, Antiqua et Nova-1, documento emitido el 28 de enero de 2025 por el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura. También “Hechos 29”, un espacio de reflexión entre creadores digitales, para mirar los retos del continente digital en la tarea evangelizadora.
VIDEO. Entrevista a Mons. Alí, Secretario del Pontificio Consejo para la Protección de Menores
Compartiendo Buenas Prácticas
Cada jornada del IV Congreso de CEPROME dedicó un espacio para orar por la sanación de las víctimas de abuso sexual y para renovar las fuerzas de quienes trabajan en esta ardua misión de la Iglesia. El evento, además, sirvió para crear nuevas redes de colaboración entre los participantes, los que también pudieron asistir a la Expo Buenas Prácticas, una exhibición de stands en que más de 20 organizaciones compartieron sus experiencias y estrategias en el combate contra los abusos.
Los tres días de actividades de este congreso se prolongarán durante un año de intenso trabajo del equipo de CEPROME, que continúa ofreciendo decenas de talleres y diplomas online a agentes evangelizadores en toda América Latina, así como asesorías a diócesis, comunidades religiosas y organismos de inspiración católica para elaborar protocolos de prevención de abusos. Y como revelaron al final de este evento, el V Congreso de CEPROME se llevará a cabo en marzo de 2025 en San José de Costa Rica.
VIDEO. Declaraciones de Monseñor José Manuel Garita Herrera en el Congreso del CEPROME
“Desconocer lo que está detrás de la IA nos hace más vulnerables”
Dos de los expositores del Congreso del CEPROME fueron entrevistados por Vatican News después del evento. El padre Samuel Velásquez, sacerdote de la Arquidiócesis de San Juan de Puerto Rico, teólogo moralista y experto en bioética; y el padre Antonio Carrón, agustino recoleto, doctor en Filosofía, respondieron sobre los peligros y brechas que abre la inteligencia artificial en la gran problemática de los abusos a menores.
PREGUNTA: ¿Cuáles son los principales desafíos que la IA le plantea a la Iglesia de cara a la prevención del abuso?
P. Carrón: La sensibilización en la formación es el punto inicial, donde pues podemos hacernos conscientes. Hay que educar para la inteligencia artificial, hay que educar sobre la inteligencia artificial, hay que educar en la inteligencia artificial. Si hoy los niños, los jóvenes y aquellas personas que quieren hacer daño están utilizando herramientas, la manera de prevenirlos es conociendo también esas herramientas, conociendo qué mecanismos están detrás, cómo se puede generar una imagen, cuán fácil es generar una imagen, cómo puedo también yo identificar qué imágenes han podido ser generadas con inteligencia artificial. Tenemos herramientas que nos lo permiten. Además, hay que establecer pautas y límites. Hay que integrar la inteligencia artificial desde una adecuada formación, desde un adecuado uso y, sobre todo, desde un adecuado acompañamiento.
LEER. Entrevista completa al P. Antonio Carrón / Audio de la entrevista
PREGUNTA: ¿Cuánto desafían las vulnerabilidades que crea la Inteligencia Artificial a los esfuerzos de la Iglesia por crear ambientes sanos y protegidos?
P. Valásquez: Todo lo que pasa en el mundo sucede en la Iglesia, y todo lo que le interesa al mundo le interesa a la Iglesia. Las angustias, las tristezas, las alegrías y las penas del mundo son las angustias y las alegrías de los hijos de Dios, y la Iglesia está llamada a evangelizar todos los espacios. Entonces, todo esto también sucede en la casa, en las familias, de ahí sale a las parroquias, a las escuelas, a los colegios, y muchos de estos jóvenes son los que llegan a nuestra pastoral, son también los que han sido influenciados por las redes. En el taller de este Congreso también hablamos acerca de la enorme cantidad de influencers que modifican los comportamientos de nuestros jóvenes. Ellos influencian su forma de pensar, de vestir, de imaginar la realidad, de pensarse en sus relaciones sociales, en su intimidad.
LEER. Entrevista completa al P. Samuel Velásquez / Audio de la entrevista
Oportunidad única de la Iglesia de proteger a los niños frente a la IA
Una de cada cinco niñas y uno de cada siete niños han sido víctimas de violencia de varios tipos en la red. “La tecnología es parte del problema, pero también debe ser parte de la solución”, ha subrayado Britta Holmberg, subsecretaria de la World Childhood Foundation. Holmberg ha participado en la presentación del evento “Riesgos y oportunidades de la IA para niños: Un compromiso común para proteger a los niños“, que se celebró en el Vaticano. El evento fue organizado por la Pontificia Academia de las Ciencias en colaboración con la World Childhood Foundation y el Instituto de Antropología (IADC) de la Pontificia Universidad Gregoriana.
El cardenal Peter Turkson, canciller de la Pontificia Academia de Ciencias y de la Pontificia Academia de Ciencias Sociales, subrayó en su intervención el compromiso de la Santa Sede, y en particular del papa Francisco, con las nuevas tecnologías, así como la naturaleza colectiva del proyecto. Además de los debates sobre una nueva ética de los algoritmos, la llamada “algorética”, es necesario discutir las responsabilidades de los Estados individuales, para que la IA no permanezca exclusivamente “en manos de particulares”.
El purpurado también destacó la importancia de desarrollar modelos de regulación para compartir con las conferencias episcopales de todo el mundo. Un objetivo que se puede alcanzar también a través de un enfoque que tenga en cuenta los testimonios de quienes han sufrido abusos en línea. Esto permitiría ampliar el debate, como ya se ha hecho con otros problemas graves, entre ellos la trata de seres humanos.
Riesgos evidentes
Joachim von Braun, presidente de la Pontificia Academia de Ciencias, destacó cómo los riesgos relacionados con las nuevas tecnologías son cada vez más evidentes para la comunidad científica. Desde la adicción a las redes sociales, que afecta significativamente al desarrollo cerebral de los niños, hasta las violaciones de la privacidad y la manipulación de sus gustos con fines comerciales.
“Durante años, las matemáticas se consideraron una disciplina sin implicaciones éticas”, dijo Von Braun, en relación con los algoritmos que regulan las nuevas tecnologías. “Hoy en día, este ya no es el caso”. El académico subrayó que, en el ámbito político, todavía hay mucho trabajo por hacer. En la Unión Europea, por ejemplo, un proyecto de legislación ha estado parado durante dos años, mientras que en los Estados Unidos es crucial dialogar con las grandes empresas tecnológicas, como Alphabet, matriz de Google. En este contexto, la Pontificia Academia de Ciencias puede fomentar un diálogo constructivo y continuo.
El papel de la Iglesia
Hans Zollner, director de la IADC de la Pontificia Universidad Gregoriana, subrayó el carácter visionario de la Santa Sede. Ya en 2017 señalaba “a los representantes de las empresas protagonistas de los desarrollos tecnológicos” como actores fundamentales en la protección de los niños. Este proceso se ha interrumpido con los años pero debe ser retomado. Y la Iglesia debe jugar aquí un papel importante, pues su misión es la protección de los más vulnerables. La Santa Sede, explicó Zollner, tiene una oportunidad “única”: reunir alrededor de la misma mesa a todas las realidades involucradas, para abordar cuestiones que, si se tratan de manera fragmentaria, podrían quedar sin resolver.
Refiriéndose a la colaboración entre la Unión Europea y los Estados Unidos, Zollner mencionó el Centro Nacional para Niños Desaparecidos y Explotados, una organización estadounidense que, el año pasado, recibió más de 29 millones de denuncias de abuso infantil en línea, no solo en los Estados Unidos sino también en Europa. La cooperación entre entidades de este tipo y las autoridades nacionales ha permitido iniciar investigaciones y castigar a los responsables. Por último, destacó el papel crucial de las familias: “No conozco a un solo padre que no esté preocupado por los riesgos que corren sus hijos en línea”, dijo. Con esto, también reconoció las dificultades que encuentran los adultos para adaptarse a la evolución tecnológica.
LEER. Entrevista al P. Hans Zollner, experto de la Iglesia en prevención de abusos
LEER. Programa completo del evento “Riesgos y oportunidades de la IA para niños”
Información adicional
- IA y datos: Claves para entender el panorama tecnológico de 2025
- La IA plantea nuevos escenarios delictivos de abuso sexual infantil
- Uno de cada tres jóvenes ha sido víctima de acoso cibernético
- Web del encuentro “Riesgos y oportunidades de la IA para niños”
- Mensaje de la reina Silvia de Suecia, fundadora de la World Childhood Foundation
- Colegio San Agustín de Lima fue sede del IV Congreso Latinoamericano de CEPROME
Publicaciones relacionadas en Buena Voz Católica
- La Santa Sede presenta doctrina sobre la inteligencia artificial
- Claves del primer Informe anual sobre protección de menores
- Influencia de la Iglesia en el futuro de la IA
- Plan anti-abusos: Fallos y carencias que todavía dañan a las víctimas
- ¿Cómo usar inteligencia artificial? Un manual católico
- Nuevas tecnologías no deben suprimir lo humano
- Inteligencia artificial: las religiones piden una algorética
- Encuesta mundial: Mejorar directrices antiabusos
- Informe Chile: Accionar de abusadores en la Iglesia
Fuentes
Vatican News (2) / Revista Vida Nueva / Iglesia de Montevideo / Revista Alfa y Omega / Videos: Vatican Media – Diócesis Ciudad Quesada / Foto: Conferencia Episcopal Peruana
