¿Cómo usar inteligencia artificial? Un manual católico
1:00 p.m. | 19 jul 23 (GM/FP).- La Santa Sede continua sumando aportes, esta vez en sociedad con la Universidad de Santa Clara, para orientar a las personas y proyectar regulaciones en el uso de tecnologías -con gran avance en este último tiempo- como la inteligencia artificial (IA). “Ética en la era de las tecnologías disruptivas: una hoja de ruta operativa” es el título del nuevo recurso, una publicación que ha requerido años en su elaboración por la amplia consulta con diversos expertos y realidades. El contenido es accesible para todos los interesados en el tema, pero sobre todo está dirigido a responsables en la industria tecnológica y corporaciones.
——————————————————————————————–
Las directrices son el resultado de una colaboración entre el Vaticano, liderado por Francisco, y el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara (California, Estados Unidos). Juntos han formado una nueva organización denominada Institute for Technology, Ethics and Culture (ITEC). El primer proyecto del ITEC es la nueva publicación, destinada a guiar a la industria tecnológica a través de las turbias aguas de la ética en la IA, el aprendizaje automático, el cifrado, el rastreo, etc.
Este mismo año son varias las actividades e iniciativas impulsadas desde el Vaticano, demostrando su interés en tener un rol importante en el debate, más aún desde que emergió la plataforma ChatGPT, que ha significado un paso importante en la exposición de la IA. Según el padre Brendan McGuire, párroco en Los Altos (CA) y asesor de ITEC, la iniciativa es la culminación de esfuerzos de larga data para la Iglesia. Sostiene que el Vaticano tiene una capacidad única para reunir a los sectores clave. “El Papa siempre ha tenido una visión amplia del mundo y de la humanidad, y cree que la tecnología es algo bueno. Pero a medida que la desarrollamos, llega el momento de plantearse cuestiones más profundas”, declaró el padre Brendan a Gizmodo en una entrevista.
McGuire trabajó en la industria tecnológica, como director ejecutivo de la Personal Computer Memory Card International Association a principios de la década de 1990, antes de entrar en el sacerdocio hace unos 23 años. Cuenta que, a lo largo de los años, ha seguido reuniéndose con amigos del mundo de la tecnología, muchos de los cuales son ahora líderes del sector. Pero, hace unos 10 años, sus conversaciones empezaron a ser más serias, dijo.
“Ejecutivos de tecnología de todo Silicon Valley llevan años acudiendo a mí y diciéndome: Tienes que ayudarnos, hay muchas cosas en el horizonte y no estamos preparados”. Citando nuevamente a sus anteriores colegas, McGuire resaltó que “no hay un mecanismo para tomar decisiones”. Entonces se puso en contacto con Kirk Hanson, que entonces dirigía el Centro Markkula, así como con un obispo local.
“Los tres nos reunimos y tuvimos una lluvia de ideas: ‘¿Qué podríamos hacer?”. dijo McGuire. “Sabíamos que cada una de estas empresas son empresas globales, por lo que, en realidad, difícilmente van a escuchar a un pastor o a un obispo local. Me dije que si conseguíamos que alguien del Vaticano nos prestara atención, podríamos conseguir algo. La idea era utilizar el poder de convocatoria del Vaticano para reunir a ejecutivos de todo el mundo”.
Para McGuire, sacerdote católico, obtener orientación del papa Francisco y del Vaticano -con su influencia diplomática, cultural y espiritual- era un paso natural. Dijo que se puso en contacto con el obispo Paul Tighe, secretario del Dicasterio para la Cultura y la Educación en el Vaticano, un departamento que trabaja para el desarrollo de los valores humanos de las personas. McGuire dijo que el Papa le pidió a Tighe que estudiara más a fondo las cuestiones éticas digitales y tecnológicas.
La Santa Sede: Preocupada sobre todo por el desarrollo de IA
En el capítulo introductorio escrito por el obispo irlandés Paul Tighe, reflexiona sobre sus conversaciones con directivos de Silicon Valley, en particular los que se dedican a la IA y el aprendizaje automático. Destaca la aspiración de estos a mantener un alto nivel ético en su sector. Según Tighe, ya existe una tendencia notable entre las diversas iniciativas que subrayan la importancia de que la tecnología sirva a la humanidad, con un diseño con sentido ético, centrado en el ser humano, por el bien común y abierto.
Sin embargo, reconoce que algunos líderes empresariales pueden utilizar estas palabras de moda estratégicamente para ganarse la confianza y obtener beneficios. Entonces surge la pregunta: ¿Cómo cumplen las empresas sus promesas de centrarse en el ser humano y evitar prácticas poco éticas?
Está claro que Tighe reconoce la improbable colaboración entre la Iglesia católica, una institución milenaria, y Silicon Valley, un centro de innovación tecnológica. Sin embargo, la existencia del ITEC podría considerarse un indicio del impacto real y potencialmente transformador de la IA. Cabe señalar que el Papa no ha publicado una guía de 140 páginas sobre criptomonedas, lo que pone de relieve la relevancia específica de la IA en este contexto.
El Vaticano celebró una conferencia en 2019 en Roma llamada “El bien común en la era digital”. McGuire dijo que asistieron unas 270 personas, incluidos directores ejecutivos de Silicon Valley y expertos en robótica, guerra cibernética y seguridad. Al año siguiente, la Santa Sede propuso la iniciativa “Rome Call for AI Ethics”, que implicó un acuerdo de compromisos y en esa primera convocatoria fue firmado por empresas como IBM y Microsoft. En febrero de este año, representantes de las tres religiones abrahámicas, se unieron a la firma de ese acuerdo en el mismo Vaticano.
Un manual accesible para cubrir ausencia de regulación
Mientras que muchos activistas, académicos y observadores centran sus esfuerzos en apelar a los reguladores, el manual del ITEC adopta un enfoque diferente. En lugar de esperar a que los gobiernos establezcan normas para la industria, el ITEC espera proporcionar orientación a las personas de las empresas tecnológicas que ya están luchando con las cuestiones más difíciles de la IA.
“Está surgiendo un consenso en torno a cuestiones como la responsabilidad y la transparencia, con principios que se alinean de empresa a empresa”, afirma Ann Skeet, Directora Senior de Ética en el Liderazgo del Markkula Center y una de las autoras del manual. “Eso está muy bien, pero hay menos consenso sobre qué hacer de manera más precisa y cómo aplicar esas normas al diseño y empleo de la tecnología”.
En general, el texto propone incorporar valores -organizados en torno a una serie de principios- a la tecnología y a las empresas que la desarrollan desde el principio, en lugar de mirar atrás para solucionar los problemas a posteriori. El manual detalla un principio ancla para las empresas: garantizar que “nuestras acciones sean para el Bien Común de la Humanidad y el Medio Ambiente”. Eso está muy bien y, obviamente, es muy vago. Pero el manual del ITEC está organizado para desglosar las grandes ideas en las que todos pueden estar de acuerdo, en una serie de consejos específicos y medidas prácticas.
Ese gran principio básico se divide en siete directrices, como “Respetar la dignidad y los derechos humanos” y “Promover la transparencia y la explicabilidad”. Esas siete directrices se desglosan a su vez en 46 pasos concretos, con definiciones, ejemplos y medidas prácticas.
Por ejemplo, el principio “Respeto de la dignidad y los derechos humanos” incluye un enfoque sobre “Privacidad y confidencialidad”. Para poner en práctica esta idea, el libro pide el compromiso de “no recopilar más datos de los necesarios” y afirma que “los datos recopilados deben almacenarse de forma que se optimice la protección de la privacidad y la confidencialidad”. Detalla que las empresas deben considerar protecciones específicas para los datos médicos y financieros, y centrarse en las responsabilidades para con los usuarios, no sólo en los requisitos legales.
“El objetivo es capacitar a la gente de la empresa en su trabajo diario, ya sea escribiendo un código o un manual técnico, o pensando en cuestiones relacionadas con la cultura del lugar de trabajo”, afirma Gregg Skeet. “Hemos intentado escribir en el lenguaje de las empresas y los ingenieros para que las referencias se utilicen y sean similares a cosas y normas que hayan visto antes”.
LEER. Formulario para descargar el documento completo (PDF)
Sumatoria de esfuerzos para enfocarse tanto en el presente como en el futuro
El Vaticano no es la única organización que se hace grandes preguntas sobre el futuro de la IA y la tecnología. Apenas unos meses después de que OpenAI lanzara ChatGPT al mundo, el CEO de la compañía, Sam Altman, ya se reunía con el Presidente Biden y testificaba ante el Congreso sobre cómo debería regularse la IA.
Pero si escuchamos a los directores ejecutivos de las empresas tecnológicas que trabajan en esta industria, parece que están más centrados en un futuro lejano e hipotético en el que los robots provoquen alguna versión del fin del mundo. Cientos de ejecutivos tecnológicos firmaron recientemente una declaración de una sola frase sobre lo que deberíamos hacer con la IA: “Mitigar el riesgo de extinción a causa de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear”.
Por reales (o no) que puedan ser estas preocupaciones, algunos críticos sostienen que centrarse en el futuro forma parte de un esfuerzo liderado por la industria para distraer a los reguladores de los problemas a los que ya nos enfrentamos gracias a la tecnología de IA que ya existe. Afortunadamente para el negocio de la tecnología, el Vaticano tiene mucha experiencia en responder a preguntas sobre cómo debemos considerar el apocalipsis. El padre Brendan dijo que las posibles amenazas existenciales de la IA son graves, pero que los problemas de la IA a corto plazo merecen la misma atención. Sin embargo, no se pronunció sobre si el Papa ha utilizado o no el ChatGPT.
“Son absolutamente necesarias grandes barreras de seguridad, y los países y los gobiernos las pondrán en práctica a su debido tiempo”, dijo el padre Brendan. “Pero este libro desempeña un papel importante a la hora de abordar con rapidez el diseño y la aplicación por parte de los consumidores. Ahí es donde intentamos que las empresas cumplan las normas que necesitamos con mucha antelación”.
Información adicional
Publicaciones recomendadas en Buena Voz Noticias
- Inteligencia artificial y la fe, ¿condenados a entenderse?
- Nuevas tecnologías no deben suprimir lo humano
- Inteligencia artificial: las religiones piden una algorética
- Educadores cristianos: No tengan miedo del ChatGPT
- IA y Educación Superior: Iglesia impulsa debate ético
- El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
- Inteligencia artificial y justicia social
- Silicon Valley en el Vaticano: articular progreso tecnológico y bien común
