El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial

4:00 p.m. | 11 mar 20 (EE/VTN).- La Academia Pontificia para la Vida, junto a representantes de empresas como Microsoft, IBM, y otras organizaciones, se reunieron en el Vaticano para debatir el ámbito moral en el desarrollo de la Inteligencia Artificial (IA). El desenlace ha sido la firma conjunta del “Llamado de Roma para una Ética de la IA”, un documento de compromisos compartidos, que propone parámetros éticos, y cuestiones vinculadas a la educación y a los derechos humanos.

Con esta primera convocatoria, también se buscó impulsar un movimiento que involucre a más empresas e instituciones, para enriquecer el debate y conseguir convenios más amplios, ante una tecnología, que por la gestión masiva de información personal, puede suponer un riesgo para las libertades. En un mensaje dirigido a los participantes, Francisco advirtió de ese y otros peligros, pero que estos “no deben ocultarnos el gran potencial que nos ofrecen las nuevas tecnologías”.

——————————————————————————————–

¿Cómo podría el mundo aprovechar la inteligencia artificial (IA) para el bien común, mientras reduce su potencial para ser una fuerza para el mal? En toda justicia, esta no es una pregunta nueva y, en últimas, puede aplicar para prácticamente cualquier tecnología de alto impacto, especialmente en la era digital.

Lo que quizá resulta novedoso, o cuando menos sorprendente, es que sea el Vaticano el que se formule esta pregunta. Por instrucción del papa Francisco, la Academia Pontificia para la Vida comenzó a estudiar el tema y, producto de este análisis, IBM y Microsoft firmaron este viernes el “Rome Call for AI Ethics”, un compromiso para establecer parámetros éticos en el desarrollo de inteligencia artificial.

La ética en el desarrollo de tecnologías es un tema cada vez más importante porque compañías de esta escala cada vez ofrecen soluciones para sistemas críticos para el funcionamiento de una sociedad: algoritmos que clasifican el desempeño de los profesores de escuelas públicas o análisis de datos para intentar predecir qué paciente puede desarrollar problemas como diabetes. En las manos equivocadas, con un diseño y una implementación incorrecta, esta información puede resultar en discriminación y otras injusticias, pero a gran escala.

“IBM nunca antes había firmado un llamado papal. Pero estos no son tiempos comunes en tecnología”, en palabras de John E. Kelly III, vicepresidente ejecutivo de IBM, quien añadió que “el Rome Call for AI Ethics nos recuerda que tenemos que elegir cuidadosamente a quién beneficiará la IA y debemos hacer al mismo tiempo importantes inversiones en personas y habilidades. La sociedad tendrá más confianza en la IA cuando las personas vean que se está construyendo sobre una base de ética, y que las compañías detrás de la IA están abordando directamente cuestiones de confianza y responsabilidad”.

La vinculación de parámetros éticos en el diseño de tecnologías como inteligencia artificial es cada vez un debate más grande e interesante, así como urgente. De fondo, se trata de resaltar asuntos como transparencia y cadena de responsabilidad porque, cuando las cosas salen mal, la culpa no puede ser de la máquina.

El Rome Call for AI Ethics incluye trabajar sobre seis principios básicos. Transparencia, que busca que los sistemas de IA deben ser explicables; inclusión, para tener en cuenta las necesidades de todos los seres humanos; responsabilidad, quienes diseñan y despliegan el uso de IA deben proceder con responsabilidad y transparencia; imparcialidad, que implica no crear ni actuar de acuerdo con prejuicios o discriminación; confiabilidad y seguridad y privacidad.

“Para IBM es un honor haber ayudado a darle forma al Rome Call for AI Ethics del Vaticano y ser uno de sus primeros firmantes. Involucrar al Vaticano en este tema ayudará a que la conversación pase de ser sobre máquinas y sea sobre la gente. Esto es crítico porque, al final del día, los sistemas de IA son simplemente un reflejo de las personas que los construyen”, dijo Fabio Rúa, director de Asuntos Regulatorios y Gubernamentales de IBM para América Latina.

ENLACE. Documento “Rome Call for AI Ethics” (PDF – completo)

Papa a Pontificia Academia para la Vida: tecnologías bien utilizadas pueden dar buenos frutos

En la conclusión de la Asamblea Plenaria de la Pontificia Academia para la Vida, el papa Francisco envió su discurso a los participantes, que fue leído por Monseñor Vincenzo Paglia, presidente de la Academia. “La inteligencia artificial”, escribe el Papa, “está en el corazón mismo del cambio de época que estamos atravesando”, puesto que, de hecho, “la innovación digital toca todos los aspectos de la vida, tanto personales como sociales”.

En el discurso el Pontífice observa que las decisiones, aun aquellas importantes como las médicas, económicas o sociales, “son hoy en día el resultado de la voluntad humana y de una serie de contribuciones algorítmicas”. Nota que a nivel personal “la era digital cambia la percepción del espacio, del tiempo y del cuerpo”, y ello “infunde un sentido de expansión de sí que ya no parece encontrar más los límites y se afirma la homologación como el criterio de agregación prevalente”, es decir, que “reconocer y apreciar la diferencia se hace cada vez más difícil”.

En el ámbito socio económico, señala que “los usuarios suelen quedar reducidos a ‘consumidores’, esclavos de intereses privados concentrados en manos de unos pocos”. A partir de los rastros digitales difundidos en Internet –constata– los algoritmos extraen datos que permiten controlar los hábitos mentales y relacionales, con fines comerciales o políticos, a menudo sin nuestro conocimiento.

Se trata de una asimetría por la cual “unos pocos saben todo sobre nosotros, mientras que nosotros no sabemos nada sobre ello”, lo cual –advierte el Pontífice– “adormece el pensamiento crítico y el ejercicio consciente de la libertad”. El resultado de ello es que las “desigualdades se amplifican inconmensurablemente, el conocimiento y la riqueza se acumulan en pocas manos, con graves riesgos para las sociedades democráticas”.

Nuevas tecnologías bien utilizadas pueden dar buenos frutos

Francisco afirma que, sin embargo, estos peligros “no deben ocultarnos el gran potencial que nos ofrecen las nuevas tecnologías”, puesto que “son un regalo de Dios”, “un recurso que puede dar buenos frutos”. Señala que las ciencias biológicas “están haciendo un uso cada vez mayor de los dispositivos puestos a disposición por la ‘inteligencia artificial”, y que dicho desarrollo induce “a cambios profundos en la forma de interpretar y gestionar los seres vivos y las características de la vida humana, que es nuestro compromiso proteger y promover”.

Manifestando su gratitud a la Academia Pontificia para la vida que ha “favorecido el diálogo entre las disciplinas científicas diferentes” el Sumo Pontífice asevera que “debemos dejarnos interpelar como creyentes, para que la Palabra y la Tradición de la fe nos ayuden a interpretar los fenómenos de nuestro mundo, identificando caminos de humanización, y por tanto de amorosa evangelización”.

A la luz de lo dicho, el papa Francisco destaca la necesidad de “madurar fuertes motivaciones para perseverar en la búsqueda del bien común, incluso cuando no hay un beneficio inmediato que se pueda obtener de ello”. En otras palabras, resume, “no basta sencillamente con confiar a la sensibilidad moral de quienes investigan y diseñan dispositivos y algoritmos, sino que es necesario crear organismos sociales intermedios que aseguren la representación de la sensibilidad ética de los usuarios y los educadores”.

La nueva frontera: la “algor- ética”

El Santo Padre retoma el concepto de “algor-ética”, cuyo objetivo es “asegurar una verificación competente y compartida de los procesos mediante los cuales se integran las relaciones entre los seres humanos y las máquinas en nuestra era” para señalar que éste puede ser enriquecido “por los principios de la Doctrina Social de la Iglesia”, a saber, dignidad de la persona, justicia, subsidiariedad y solidaridad.

Son principios de la Doctrina Social que expresan “el compromiso de ponerse al servicio de cada persona humana en su totalidad, sin discriminaciones ni exclusiones”. Y la complejidad del mundo tecnológico –escribe– exige una elaboración ética más articulada para que este compromiso sea verdaderamente incisivo. La “algor-ética” – añade – podrá ser un puente para que los principios se inscriban concretamente en las tecnologías digitales, a través de un efectivo diálogo transdisciplinario.

Información relacionada:

• Bernardo Kliksberg: “La ciencia siempre debe estar orientada por la ética”
• Mónica López: “La ciencia y la tecnología sin ética, se vuelve contra el hombre”
• Vaticano: “Humanizar la técnica y no tecnologizar lo humano”
• Mons. Paglia en Lima: “Las tecnologías ya no son solo instrumentos, ahora transforman nuestra forma de vida”

Fuentes:

Vatican News / El Espectador / Foto: Academia Pontificia para la Vida