Inteligencia artificial y la fe, ¿condenados a entenderse?
10:00 p.m. | 6 jun 23 (EP/AO).- El potencial y la velocidad que pueden ir ganando los desarrollos en Inteligencia Artificial (IA) -demostrado en estos meses con las aplicaciones de ChatGPT- obliga a la Iglesia a demostrar que también tiene su atención puesta en este ámbito y que se esfuerza en orientar desde la fe. En ese sentido, el director y asesor del Centro de Cultura Digital del Dicasterio para la Cultura y la Educación del Vaticano, Ángel González-Ferrer García, adelantó a Europa Press que el Vaticano prepara un documento sobre el ser humano y su interacción con la IA. Acompaña una entrevista con más detalles y comentarios.
——————————————————————————————–
El español Ángel González-Ferrer García ha explicado que en la Santa Sede están inmersos en la fase de recopilación y redacción de un documento que recogerá estos tres últimos años de “reflexiones e investigaciones filosóficas y teológicas de lo que significa ser humano en la era digital” y cómo se debe afrontar este reto, “desde el punto de vista antropológico” y de lo que supone “el uso e interacción con estas nuevas tecnologías alrededor de la IA”.
Además, el organismo vaticano colabora con el Institute for Technology Ethics & Culture de Silicon Valley para la redacción de un manual sobre ética aplicada a las nuevas tecnologías digitales. Gónzalez-Ferrer García apuesta en el ámbito de la IA por un “marco regulatorio común” donde todos los agentes se rijan por unas “mismas bases y directrices éticas” para evitar los riesgos de la evolución tan rápida que ha tenido en los últimos años el desarrollo de la IA, como ha sucedido con ChatGPT.
“Lo importante es que no vaya cada país por su lado, sino que todos los estados miembros sigan una misma directriz, máxime cuando hay un reglamento específico para ello. Lo que hay que analizar es cómo adaptarla y que el gap de velocidades entre el desarrollo tecnológico y normativo sea el menor posible”, asegura en una entrevista con Europa Press, poco después de que esta plataforma esté de nuevo disponible en Italia después de que OpenAI, la empresa matriz estadounidense del chatbot, respondiera a las solicitudes de las autoridades para la protección de datos personales que habían previamente bloqueado su uso.
El experto subraya que ChatGPT es un “gran repositorio de información para consultar, al estilo de la Wikipedia, pero más potente y con un nivel de precisión mayor por la interacción y aprendizaje que tiene con los usuarios”. Pero, a su vez, también considera que se puede considerar como un “colaborador” para “la resolución de problemas y toma de decisiones”.
Por el momento, la plataforma no está conectada a Internet u otras fuentes de información externas, sino que se basa en el procesamiento de un conjunto de datos propios recopilados, -sólo llega hasta 2021- que se entrenan para comprender y generar textos sobre una amplia gama de temas y estilos. Por ello, para González-Ferrer García “no se puede considerar que la información que aporta sea 100% exacta, pues suele fallar más en aquellas partes sujetas a interpretaciones.
Sobre sus riesgos, el asesor del Dicasterio para la Cultura y la Educación del Vaticano apunta que son los propios de “toda herramienta basada en IA que estará condicionada por los intereses comerciales de las empresas que desarrollan este software o los posibles sesgos de los desarrolladores”.
“Se debería tomar como una herramienta adicional para conformar o definir una posición, pero no como la única o verdadera”, precisa. En cualquier caso, asegura que es bueno testear las capacidades de estas nuevas tecnologías e interactuar con ellas, pues es “la mejor manera para identificar tanto las oportunidades que aportan como los riesgos”. Con todo, lo que más preocupa al Dicasterio para la Cultura y la Educación del Vaticano sobre el uso de ChatGPT es que las personas “se entreguen por completo a lo que indique la máquina y no se fomente la cultura del esfuerzo por el aprendizaje, es decir, que no se desarrollen las capacidades cognitivas propias del ser humano como es la de pensar y razonar”.
Así, destaca que estas herramientas se deberían concebir como una manera de volver más eficientes las tareas mediante “la búsqueda de otros puntos de vista y de diversidad en el análisis”, pero asegura que hay otro punto importante que es “definir cuál va a ser el rol del educador”. Según González-Ferrer García, otro de los grandes riesgos -dado el enorme poder de influencia y manipulación que tiene sobre las personas- es que “se concentra mucho poder en unos pocos agentes (empresas, gobiernos o individuos), con el consiguiente peligro de pérdida de derechos y autonomía para decidir libremente”.
Por ello, además de un marco regulatorio común, para luchar contra ello propone que los algoritmos “sean de código abierto para que esté al alcance de toda la comunidad tecnológica y permita la colaboración entre agentes, que no sea una mera “caja negra” donde no se sepa lo que ocurre dentro”; y, que antes de poner una de estas tecnologías en producción, “exista las interacciones suficientes y de manera continuada en un escenario real, para testear realmente el impacto que puede tener y evitar efectos dañinos pudiendo actuar a tiempo para su corrección”.
VIDEO. Francisco insta a desarrolladores de IA a actuar con humanidad
Entrevista a Ángel González-Ferrer
¿Cuál es el mejor momento para empezar a exponer a los niños a las nuevas tecnologías?
No hay una ciencia exacta que diga a qué años hay que regalarle un móvil inteligente a un niño. Pero cuanto más sepamos y más seamos conscientes de los riesgos y las posibilidades que ofrecen las nuevas tecnologías, mejor. La inteligencia artificial es omnipresente: en los servicios financieros, en el ámbito laboral y doméstico, en el ocio, en el comercio electrónico, en el transporte… No podemos tener a nuestros hijos viviendo en una burbuja; hay que educarlos para que sean responsables en su uso y puedan defenderse frente a los riesgos que plantea.
¿Cuáles son esos riesgos?
El primero que los denuncia es el Papa. Hay un peligro real de acabar enfocando la realidad con un paradigma tecnocrático reduccionista que pone la tecnología como faro de la sociedad. Otro riesgo es el incremento de la brecha digital entre ricos y pobres. Al Vaticano le preocupa que haya un acceso exclusivo a las nuevas tecnologías de los más favorecidos. O la manipulación a la que están expuestas las masas. Tenemos a nuestro alcance más información, pero esto no significa que todo lo que nos cuenta internet sea verdadero. La proliferación de fenómenos como las fake news nos hace menos libres.
Otro problema es la huella digital. ¿Somos conscientes del rastro que vamos dejando en internet?
No, no somos conscientes y las empresas se benefician de ese desconocimiento o despreocupación. Es necesaria una regulación que marque los límites. No podemos dejar que haya un avance tecnológico presuponiendo la buena voluntad o comportamientos virtuosos por parte de las compañías que lo hacen posible. Hay una carrera por el liderazgo tecnológico con muchos intereses en juego.
¿Aquí se puede hablar de una guerra fría tecnológica?
Sí, claro. Antes había un enfrentamiento entre los rusos y los americanos. Y ahora tenemos de un lado a Estados Unidos y, de otro, a China.
¿Estamos protegidos frente a esos intereses?
Esta carrera por desarrollar la inteligencia artificial no es neutra, al revés. Estamos vendidos. En Europa, no obstante, llevamos la delantera de la normativa en materia tecnológica. Y Estados Unidos nos mira de reojo porque somos un referente para ellos. Por eso es tan necesario que otras ramas del saber, como la filosofía o la antropología, y no solo las tecnológicas, también tengan voz en esto. Esto es precisamente de lo que nos ocupamos en el Centro de Cultura Digital del Consejo Pontificio de la Cultura del Vaticano.
¿En qué consiste su trabajo?
Ponemos en diálogo a todas las partes interesadas, y esto incluye una parte de construir puentes entre el mundo oriental y el mundo occidental, que son los que llevan las riendas de la evolución tecnológica. En el organismo del Vaticano en el que trabajo tratamos de sentar en la misma mesa a los representantes de las instituciones públicas, de las organizaciones religiosas, a los académicos y científicos y a las empresas para trazar un objetivo global. El Papa ha puesto el foco en este tema para posicionar a la Iglesia católica ante los problemas de la sociedad contemporánea y entender mejor qué define al ser humano en la era digital.
¿Cómo pone esto en práctica?
Tratamos de recopilar la información disponible de todos los proyectos científicos y de ingeniería más punteros sobre inteligencia artificial. Esto incluye a los que están intentando equiparar la inteligencia humana con la memoria de los robots o, por ejemplo, los que buscan la implantación de la conciencia o de la subjetividad en las máquinas. También potenciamos reflexiones filosóficas, con una participación central de los centros académicos, sobre los retos que se derivan del desarrollo tecnológico.
Hay una pregunta que está en el aire: “¿Hay que humanizar a la máquina o robotizar al hombre?”. No somos el único departamento que está trabajando en esto. La Pontificia Academia para la Vida se está ocupando de la parte más ética. En estos momentos, la Secretaría de Estado está centralizando y coordinando los trabajos de las distintas unidades del Vaticano.
VIDEO. Los retos del desarrollo tecnológico: humanizar la máquina o robotizar al hombre? (2022)
¿Y a medio o largo plazo cómo se pone esto en práctica?
Todo esto no se puede quedar en una fase teórica o de simple reflexión; hay que trasladarlo a la sociedad de forma práctica. Y las parroquias no pueden ignorar estas problemáticas. Por ejemplo, tenemos en el radar un proyecto para que las empresas que adopten ciertas buenas prácticas puedan contar con un sello que las catalogue como éticamente responsables, como si fuera un sello de calidad. El consumidor final tiene mucho que decir.
¿Qué caracteriza a la evolución tecnológica?
El avance tecnológico se ha concentrado en los últimos tres siglos. Pero ahora todo cambia de manera frenética. Si pensamos, por ejemplo, en la revolución de la electricidad que tuvo lugar desde mediados del XIX y se extendió hasta la Primera Guerra Mundial, con la producción masiva del acero y el desarrollo de nuevas formas de energía como el gas o la electricidad, observamos cómo en ese lapso temporal pasaron varias generaciones que asimilaron los cambios de forma correcta. Hay muchos expertos que hablan ahora de una quinta revolución tecnológica. Cada vez más se abrevian los tiempos, pasan solo cinco años y ya tenemos un cambio descomunal, por lo que se difuminan los límites.
¿Y podemos saber hacia dónde van esos cambios?
No sabemos con certeza cuál va a ser el rol de la tecnología en nuestra sociedad a largo plazo. Hay proyectos para trasladar la parte de la conciencia del hombre a las máquinas. Esto supondría un salto exponencial tan grande que ya no seríamos capaces de seguir la evolución y nos tendríamos que fiar de las máquinas. Otro rasgo evolutivo puede abocarnos a perder la centralidad humana y convertirnos en un mero elemento más a disposición de los robots.
Por eso es primordial que en toda esta evolución tecnológica no perdamos el control y que las decisiones radiquen en nosotros. En la medida en la que contamos con máquinas cada más sofisticadas, tenemos que ser más rigurosos con los límites de la inteligencia artificial. Esto ya ha pasado con la energía nuclear. La sociedad sabe que es peligrosa y estamos muy concienciados.
VIDEO. Las 3 etapas de la IA, en cuál estamos y por qué muchos piensan que la 3a puede ser fatal
Información adicional
- Entrevista sobre la Inteligencia Artificial a Albert Cortina, experto en ética de tecnologías (2020)
- La inteligencia artificial – El Video del Papa 11 – Noviembre 2020
- Las tres grandes religiones sobre Inteligencia Artificial: “Puede hacer un daño terrible”
- La Inteligencia Artificial y la evangelización: ¿cómo ChatGPT puede ayudarnos?
- Sí a la Inteligencia Artificial, pero con ética
Publicaciones recomendadas en Buena Voz Noticias
- Nuevas tecnologías no deben suprimir lo humano
- Educadores cristianos: No tengan miedo del ChatGPT
- Inteligencia artificial: las religiones piden una algorética
- IA y Educación Superior: Iglesia impulsa debate ético
- Inteligencia artificial y justicia social
- El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
Fuentes
Europa Press / Revista Alfa y Omega / Videos: Pontificio Colegio Español Roma – BBC Mundo – Rome Reports / Imagen: Pexels
