Inteligencia artificial y justicia social

3:00 p.m. | 22 oct 21 (LCC).- La inteligencia artificial (IA) representa un desafío y una oportunidad para la Iglesia: es una cuestión de justicia social. De hecho, la investigación del big data, es decir, de los datos necesarios para alimentar los motores de aprendizaje automático, puede llevar a la manipulación y explotación de los pobres: “Los pobres del siglo XXI son, junto a los que no tienen dinero, los que, en un mundo basado en datos e información, son ignorantes, ingenuos y explotados”. La Iglesia está llamada a escuchar, a reflexionar y a comprometerse, proponiendo un marco ético y espiritual a la comunidad de la IA.

——————————————————————————————–

La preocupación por la evolución y el uso de la Inteligencia Artificial es un tema que el papa Francisco ha tenido en cuenta en varias ocasiones durante su pontificado, tanto en mensajes como iniciativas. La última de gran relevancia fue la firma conjunta del “Llamado de Roma para una Ética de la IA” (que se realizó en el Vaticano de la mano con representantes de IBM y Microsoft) un documento de compromisos compartidos, que propone parámetros éticos, y cuestiones vinculadas a la educación y a los derechos humanos. Ahora, un reciente artículo publicado en La Civiltà Cattolica, con la contribución del director de la revista y colaborador muy cercano al papa Francisco, Antonio Spadaro SJ, vincula los avances de la IA con riesgos sobre la justicia social.

La experiencia humana está cambiando profundamente en la era de la inteligencia artificial (IA), mucho más de lo que la gran mayoría de la población mundial logra anticipar o comprender. La verdadera explosión de la IA tiene un impacto fuerte en nuestros derechos en la actualidad y en nuestras oportunidades futuras, y determina procesos de tomas de decisión que, en una sociedad moderna, conciernen a todos. Se trata de un cambio tecnológico enorme que presenta grandes beneficios e insidiosos riesgos. La proporción de riesgos y beneficios dependerá de los pioneros y creadores de esta tecnología, y en especial de la claridad de su visión del bien común y de cuan acertada sea su comprensión de la naturaleza de la experiencia humana.

Los fines para los cuales se preparan los sistemas de IA pueden llevarlos a interactuar de manera impredecible, de modo que garanticen que los pobres sean controlados, vigilados y manipulados. Los creadores de los sistemas de IA se han convertido cada vez más en los árbitros de la verdad para el consumidor. Pero, al mismo tiempo, los desafíos filosóficos esenciales –la comprensión de la verdad, el conocimiento y la ética– se vuelven incandescentes a medida que las posibilidades de la IA alcanzan y sobrepasan los límites cognitivos humanos.

En el contexto de los progresos del siglo XXI, la experiencia y la formación de la Iglesia deberían ser un don esencial destinado a los pueblos para ayudarlos a formarse un criterio que los vuelva capaces de controlar la IA, en lugar de ser ellos los controlados. La Iglesia también está llamada a la reflexión y el compromiso. En medio de la arena política y económica desde la que se promueve la IA, las consideraciones de orden espiritual y ético deben encontrar su espacio. Sobre todo, en el siglo XXI, la IA es una disciplina y una comunidad sedienta de evangelización.

La Iglesia debe esforzarse por informar e inspirar los corazones de muchos miles de personas involucrados en la creación y la elaboración de los sistemas de inteligencia artificial. A fin de cuentas, son las decisiones éticas las que determinan y enmarcan los problemas que enfrentará la IA, las que dicten cómo se programa y cómo deben ser captados los datos para alimentar el aprendizaje automático. El código que se escriba hoy será la base de los futuros sistemas de IA por muchos años.

¿Qué es la inteligencia artificial?

La definición y el sueño de la IA llevan juntos más de sesenta años. Esta se define como la capacidad de una computadora, o de un robot controlado por una computadora, de ejecutar acciones que asociamos normalmente con seres inteligentes, como razonar, descubrir significados, generalizar o aprender de la experiencia pasada. El largo desarrollo de la IA siguió la evolución de la reflexión sobre cómo las máquinas pueden aprender, y estuvo acompañada por la mejora reciente y radical de la capacidad de cálculo. La primera idea fue la IA, y a esta la que siguieron el machine learning y, más recientemente, las redes neuronales y el aprendizaje profundo.

El Aprendizaje Automático Básico emplea algoritmos para clasificar grandes cantidades de datos; construye un modelo matemático a partir de estos; y así ejecuta resoluciones o predicciones sobre ciertas actividades sin instrucciones específicas previas. Las redes neuronales artificiales son una serie de algoritmos, modelados esencialmente a imitación del cerebro humano, que procesan los datos valiéndose de varias capas y de conexiones para reconocer patrones y suministrar un análisis predictivo. El aprendizaje profundo tiene lugar cuando muchas redes neuronales se conectan entre sí.

Beneficios

Silenciosa, pero rápidamente, la IA está reconfigurando por entero la economía y la sociedad: el modo en que votamos, cómo se ejerce el gobierno, la vigilancia policial, la forma en que accedemos a los servicios financieros y nuestra solvencia crediticia, los productos y servicios que compramos, los medios de comunicación que usamos, las noticias que leemos, y muchos escenarios más. La inteligencia artificial puede conectar y evaluar muchos más datos y elementos que los seres humanos, y por tanto reducir los resultados parciales o poco claros en base a los cuales solemos tomar nuestras decisiones.

Los investigadores Mark Purdy y Paul Daugherty afirman: “Prevemos que el impacto de las tecnologías de IA en las empresas motivará un aumento de la productividad del trabajo de hasta 40%, permitiendo a las personas hacer un uso más eficiente de su tiempo”. Otros observadores ven en la agricultura, en el abastecimiento de recursos y en la asistencia sanitaria, los sectores de las economías en desarrollo que extraerán un gran beneficio de la aplicación de la IA. Además, la inteligencia artificial contribuirá notablemente a la reducción de la contaminación y el despilfarro de recursos.

La inteligencia artificial para la justicia social

No cabe duda de que la IA puede traer beneficios a la sociedad, pero también plantea cuestiones importantes de justicia social. Primero, el enorme impacto social en la caída del empleo de millones de personas que motivará la evolución tecnológica en las próximas décadas. El 60% del empleo tiene al menos un 30% de actividades laborales que pueden automatizarse. Por otra parte, esto abrirá las puertas a nuevos empleos que hoy no existen, tal como ha ocurrido en el pasado como consecuencia de la irrupción de nuevas tecnologías.

Segundo, el código de programación está escrito por seres humanos. Por ello, su complejidad puede acentuar los defectos que inevitablemente acompañan cualquiera tarea que realizamos. Los prejuicios y los sesgos en la escritura de los algoritmos son inevitables. Y pueden tener efectos muy negativos en los derechos individuales, las decisiones, los empleos de los trabajadores y la protección de los consumidores. La creciente dependencia en el plano socio-económico de la IA confiere un enorme poder a quienes programan los algoritmos: un poder del que podrían incluso no tener consciencia. El doble riesgo es que además se les puede etiquetar como si fueran parte de un proceso de toma de decisiones “independiente” automatizado.

Tercero, el análisis del impacto del big data y de la IA a nivel social demuestra que su tendencia a tomar decisiones en base a perfiles insuficientemente descritos y una retroalimentación limitada conlleva una marginalización adicional de los pobres, los indigentes y las personas vulnerables. Los sistemas interconectados refuerzan la discriminación y conceden menos oportunidades a los marginados. Además, complejas bases de datos integradas captan su información más personal, prestando poca atención a su privacidad o a la seguridad de los datos.

La omnipresencia de la IA, asociada a la cada vez más universal digitalización de la experiencia humana cotidiana, inducen a que los objetivos de los motores de la IA estén cada vez más orientados a definir lo que es importante y aceptado por la sociedad. La inteligencia artificial cambia nuestro modo de pensar y nuestros juicios fundamentales sobre el mundo. Elegir qué preguntas contestar y controlar estrictamente la comprensión de lo que realmente representan los datos, permite a quienes poseen la IA ser árbitros de la verdad para los “consumidores”.

La complejidad y la opacidad del proceso de toma de decisiones instaló, en algunos, la tendencia a ver la IA como una cosa independiente de la intervención humana en lo referente a la construcción, la codificación, el ingreso de datos y su interpretación. Esto es un grave error porque malinterpreta el verdadero rol del ser humano al interior del algoritmo. El hombre debe necesariamente ser responsable del producto al que conduce el proceso de toma de decisiones algorítmico. Pero, si no comprendemos adecuadamente los desafíos filosóficos y antropológicos ligados a la IA, podemos correr el riesgo de que el siervo se convierta en el amo.

Un progreso significativo tuvo lugar en mayo 2019, cuando los 35 países miembros de la Organización para la Cooperación y el Desarrollo Económico (OCDE), elaboraron un documento que contiene los “Principios OCDE sobre inteligencia artificial”. Identifica cinco principios complementarios entre sí, y cinco recomendaciones relacionadas con las políticas nacionales y la cooperación internacional.

Los principios son: promover el crecimiento inclusivo, el desarrollo sostenible y el bienestar; respetar los derechos humanos, el estado de derecho y los principios democráticos; asegurar sistemas transparentes y comprensibles; garantizar la seguridad, protección y evaluación de los riesgos; reconocer la responsabilidad de quien la desarrolla, la distribuye y la administra. Las recomendaciones son: invertir en la investigación y el desarrollo de la IA; promover ecosistemas digitales de la IA; crear un ambiente político favorable a la IA; dar a las personas las competencias oportunas a la luz de las transformaciones del mercado del trabajo; desarrollar la cooperación internacional para lograr una IA responsable y confiable.

¿”Evangelizar la IA”?

La IA sigue estando esencialmente compuesta por sistemas individuales de diseño, programación, captación y elaboración de datos. Se trata de procesos fuertemente condicionados por individuos. Será su mentalidad y las decisiones que ellos tomen lo que determinará en qué medida la IA adoptará criterios éticos adecuados y centrados en el hombre. En la actualidad, estos individuos constituyen una élite técnica de programadores y de expertos de datos.

Por otro lado, la evolución de la IA contribuirá en gran medida a plasmar el siglo XXI. La Iglesia está llamada a escuchar, a reflexionar y a comprometerse, proponiendo un marco ético y espiritual a la comunidad de la IA, y de esa forma servir a la comunidad universal. Siguiendo la tradición de la Rerum Novarum, puede decirse que existe aquí una llamada a la justicia social. Hay una exigencia de discernimiento. La voz de la Iglesia es necesaria en los debates políticos en curso, destinados a definir y a poner en práctica los principios éticos de la IA.

Información relacionada

• Inteligencia artificial: ¿qué retos para la sociedad y la humanidad?
• Video del Papa: avance de la robótica e inteligencia artificial sea “humano”
• Hace un año la Rome Call por un enfoque ético de la Inteligencia Artificial

Antecedentes en Buena Voz Noticias

• El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
• ¿Cuál sería la propuesta de Jesús ante la Inteligencia Artificial? Hacernos más humanos
• Algoritmos que definen nuestra convivencia
• Doctrina social católica en la era digital

Fuente

Extracto de artículo publicado en La Civiltà Cattolica de Antonio Spadaro y Paul Twomey. Referencias en el artículo completo / Imagen: Shutterstock