IA y Educación Superior: Iglesia impulsa debate ético

1:00 p.m. | 30 nov 22 (CX/TEL).- Universidades de todo el mundo están tomando medidas, junto con las principales empresas tecnológicas, para explorar formas de reforzar la enseñanza de ética en el campo de la inteligencia artificial. Ese interés se ha visto plasmado en una reciente cumbre que reunió representantes de instituciones de prestigio para ver, entre otros temas, cómo incluir esta formación en los planes de estudio, técnicos y no técnicos. El evento tuvo entre sus organizadores a la Pontificia Academia para la Vida y se propuso en línea con la iniciativa “Rome Call for AI Ethics” impulsada por la Santa Sede, que implicó un acuerdo de compromisos y en una primera convocatoria (2020) fue firmado por empresas como IBM y Microsoft.

——————————————————————————————–

El objetivo de Rome Call for AI Ethics (Llamado de Roma para una Ética de la IA) es ayudar a quienes ya trabajan o aspiran a trabajar en el campo de la tecnología a comprender que el desarrollo de la inteligencia artificial, o IA, debe beneficiar a la humanidad en lugar de plantear desafíos insostenibles para la vida humana. Los participantes en una cumbre mundial celebrada en la Universidad de Notre Dame analizaron cómo integrar la enseñanza de la ética en los cursos, y los ponentes pidieron que se generalice la inserción en los planes de estudio, tanto técnicos como no técnicos.

Casey Fiesler, profesora asociada de ciencias de la información en la Universidad de Colorado, dijo a los asistentes, que se unieron de manera presencial y virtual, que hay que dejar de lado la perspectiva tradicional de que los temas éticos son una “especialización” dentro de la educación tecnológica. “No deberíamos enseñar la ética en el contexto de la informática de modo que queda completamente separada de todo lo demás que estamos haciendo”, dijo Fiesler al pedir un cambio de cultura en la educación superior que pueda llegar a toda la sociedad.

El papel del Vaticano se deriva de su participación en el “Rome Call for AI Ethics“, que promueve la utilización de principios y directrices éticas en el desarrollo de la IA para que los productos que se diseñen, vendan y utilicen promuevan realmente el bien de toda la humanidad. El arzobispo Vincenzo Paglia, presidente de la Pontificia Academia para la Vida, fue uno de los cinco primeros firmantes de la carta en febrero de 2020. Se unió a ejecutivos de Microsoft, IBM, la Organización de las Naciones Unidas para la Agricultura y la Alimentación y el ministro italiano de Innovación.

En la cumbre dijo que el Vaticano ha liderado el proyecto del Rome Call for AI Ethics porque la Iglesia ve las ventajas de la innovación tecnológica para mejorar la vida humana, pero que ese progreso debe estar guiado por principios éticos. El progreso, dijo, “debe ser un servidor de la humanidad, no un monstruo que nos engulle, nos desgasta y nos deja morir”.

En la cumbre participaron representantes de unas tres docenas de universidades, entre católicas, de otras confesiones y también públicas, de Europa, África, Asia, América del Sur y EE.UU. Los ponentes y las mesas redondas examinaron cuestiones de transparencia, responsabilidad, imparcialidad, fiabilidad y seguridad, y privacidad.

La integración de sistemas de IA en la vida universitaria ya está muy extendida, dijo Joseph Glover, rector y vicepresidente senior de asuntos académicos de la Universidad de Florida. Por ejemplo, estos programas informáticos permiten a los responsables de los centros educativos determinar si un estudiante está estresado o corre el riesgo de abandonar un curso en función de ciertos indicios no habituales. Tener acceso a esa información plantea cuestiones morales sobre la pertinencia de intervenir, dijo Glover durante una mesa redonda.

“Estamos abordando en un nivel práctico (con) cómo hacer uso de esta información y cómo hacer avanzar al estudiante y promover su éxito”, dijo, explicando que “yo sé algo sobre el estudiante que él mismo puede no saber. ¿Qué obligación tengo -y bajo qué parametros- de comunicar eso?”.

Los ponentes también afirmaron que estas cuestiones éticas pueden plantearse en numerosos ámbitos, desde el control más sofisticado del uso de las redes sociales hasta el desarrollo de armas militares más eficaces a costa de vidas humanas. La ponente Pascale Fung, profesora de ingeniería electrónica e informática de la Universidad de Ciencia y Tecnología de Hong Kong, dijo en la cumbre que empezó a estudiar las implicaciones éticas en el campo de la IA después de trabajar en un sistema de comandos de voz para pilotos de aviones de combate en un proyecto financiado por la industria militar en la década de 1990.

Fung dijo que su principal preocupación en aquel momento era hacer que la tecnología fuera más precisa y robusta, pensando que, con el tiempo, una aplicación de este tipo beneficiaría también a las instancias civiles. Pero otros empezaron a preguntarle por qué invertía su talento en un sistema que reducía la participación humana en la toma de decisiones que ponía en riesgo vidas humanas. “Me sorprendieron las preguntas y empecé a pensar en el porqué de lo que estábamos haciendo”, dijo Fung. Una integración más profunda de las cuestiones éticas puede trascender los campos de la tecnología e implicar a otras disciplinas como la psicología, la filosofía, la sociología, el derecho y los negocios para que los estudiantes empiecen a pensar en cómo la IA puede servir a la humanidad, dijeron Fung y otros participantes.

En la Universidad de Illinois (Urbana Champaign) se celebran continuamente eventos que reúnen a la comunidad para explorar cuestiones de ética e inteligencia artificial, dijo Karrie Karahalios, profesora de informática de la institución, durante una mesa redonda. Estas reuniones permiten tener “un diálogo en común de todos nuestros diferentes departamentos” para que las necesidades humanas no queden eclipsadas en el desarrollo de las nuevas tecnologías, dijo. Karahalios también dijo que el mismo modelo de educación sobre ética puede extenderse a toda la sociedad, llegando a los legisladores, a los estudiantes de secundaria y bachillerato e incluso a los consumidores.

Brian Green, director de ética tecnológica del Centro Markkula de Ética Aplicada de la Universidad de Santa Clara (California), se hizo eco de esta opinión. “La ética tiene que extenderse por todas partes, todo el tiempo. Es como el aire. Si te quedas sin aire, estarías mal”, dijo.

Durante el segundo día de la cumbre, ocho instituciones, entre ellas Notre Dame, se sumaron y firmaron el “Rome Call for AI Ethics”. Otras son la Universidad de Navarra y la Universidad Internacional de Schiller, en España; la Universidad Católica de Croacia; la Universidad SWPS de Ciencias Sociales y Humanidades, en Polonia; la Universidad Chuo, en Japón; la Universidad de Johannesburgo, en Sudáfrica, y la Universidad de Florida. La cumbre fue planificada por la Academia Pontificia para la Vida, IBM y Notre Dame y organizada por el Laboratorio de Ética Tecnológica Notre Dame-IBM.

¿Por qué una universidad debería firmar el Rome Call for AI Ethics?

Tanto por su contribución a la investigación innovadora como por su responsabilidad de educar a la próxima generación de investigadores tecnológicos, las universidades tienen un papel esencial que desempeñar en la puesta en práctica de los principios del Rome Call for AI Ethics y en la concienciación sobre la ética de la IA y la tecnología centrada en el ser humano en las nuevas generaciones.Al firmar el compromiso, las universidades se unen a una red de instituciones de educación superior que comparten las mejores prácticas, herramientas y contenidos educativos en torno a los principios del llamamiento. La red se reunirá periódicamente para compartir actualizaciones, debatir ideas innovadoras y democratizar las soluciones éticas de la IA de forma inclusiva.

La participación en estas cumbres permite a las universidades firmantes debatir y definir una estrategia de colaboración para la puesta en marcha de la Rome Call for AI Ethics, así como comprometerse con los académicos y los líderes políticos para debatir los problemas urgentes de la ética de la IA y las posibles soluciones en la educación, la investigación y la política. Francesca Rossi, investigadora de IBM y líder global de ética aplicada a la IA, dijo que la cumbre involucra a universidades de todo el mundo porque el impacto de la IA es global.

“La IA se desarrolla en alguna parte, pero luego puede desplegarse en cualquier lugar porque la IA está muy presente en todas las sociedades, ya sea en Oriente o en Occidente”, dijo. “También por los valores que queremos incorporar a la IA, para asegurarnos de que sigue nuestros valores, que apoya y protege los valores humanos”. Rossi dijo que incorporar los valores humanos a la IA es más fácil de decir que de hacer. Es difícil imponer un conjunto de principios universales a todos los países. “Hay que comparar y confrontar estos principios porque pueden ser diferentes en las distintas culturas y en los distintos sistemas jurídicos”, dijo Rossi.

La cumbre también ha permitido vincular el mundo académico y el empresarial en el ámbito de la IA. Las universidades pueden centrarse más en los principios ideales de la ética durante las etapas de formación y desarrollo. Mientras tanto, las empresas se preocupan por abordar este problema en el mundo real, dijo Rossi. “La idea es crear una red para que las universidades puedan conectarse y puedan compartir entre ellas las mejores prácticas sobre lo que están haciendo en torno a la ética”, dijo Rossi.

Información relacionada

• Más información sobre la cumbre “Rome Call for AI Ethics: A Global University Summit”
• Padre Salobir: innovación y tradición juntas para construir el futuro
• RenAIssance Foundation
• Looking Back at the Rome Call for AI Ethics: A Global University Summit
• Notre Dame-IBM Technology Ethics Lab (Twitter)

Publicaciones recomendadas en Buena Voz Noticias

• El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
• Inteligencia artificial y justicia social
• Doctrina social católica en la era digital
• Silicon Valley en el Vaticano: articular progreso tecnológico y bien común

Fuentes

Traducción libre del artículo “Summit explores role of ethics in development of artificial intelligence” publicado en Crux / Tech Ethics Lab / The Observer (ND) / Foto: Notre Dame – IBM Ethics Lab