Fraile experto en Inteligencia Artificial que asesora al Papa

11:00 a.m. | 22 set 23 (EX/IB).- El fraile franciscano Paolo Benanti es en la actualidad una de las voces clave en Europa en cuestiones de ética vinculada a la Inteligencia Artificial (IA). “El Cyborg. Cuerpo y corporeidad en la era posthumana” fue la tesis para su doctorado en teología moral en el 2012 y desde hace unos años asesora al papa Francisco en cuestiones de tecnoética y neuroética. Benanti acompañó al pontífice en la reunión que mantuvo con Darío Gil, vicepresidente Global de IBM y Brad Smith, vicepresidente de Microsoft, y hace poco participó de un foro internacional. Reproducimos una entrevista y una reseña de su exposición.

——————————————————————————————–

Benanti se ha convertido en una voz clave en Europa en cuestiones éticas de la IA. Fue parte de “algorética”, un documento firmado por la Academia Pontificia para la Vida, Microsoft, IBM, la FAO y el gobierno Italiano para buscar soluciones éticas ante la IA. En el evento “Construyendo el futuro de la Inteligencia Artificial”, llevada a cabo por la Universidad Iberoamericana-2, el medio Expansión tuvo acceso al teólogo italiano para reflexionar sobre cómo se puede construir una IA más ética y justa.

¿Por qué es importante tener la presencia de un teólogo en las discusiones en torno a la Inteligencia Artificial?

La IA es una tecnología muy poderosa que puede sustituir la toma de decisiones humanas. Y siempre que tocas el tema de la conciencia, la libertad, la responsabilidad, estás tocando el fondo de los seres humanos, que es la esencia de la teología. Las cosas que sentimos, lo que deseamos, por qué hacemos lo que hacemos, son temas que conciernen a la teología (…) Por ejemplo, si una máquina ya puede decidir por nosotros, entonces ¿debería decidir como lo haría un buen ser humano o debería tomar la mejor solución en cuanto a optimización de resultados? (…) Estas son las preguntas que nos hacemos los teólogos.

En un caso en el que la IA tuviera que tomar una decisión moralmente compleja, ¿cómo se deberían programar sus valores éticos?

La ética es una cuestión de virtudes. Si detrás de un banco pusiéramos a un sistema de IA a que despache el dinero, ¿preferirías una IA justa o injusta? entonces, virtudes como la justicia son parte de la programación ética para la IA. Para que tenga una barrera que mantenga a la máquina dentro de nuestra realidad. Y todavía somos libres de decir a dónde nos gustaría ir con la máquina.

Una de mis mayores preocupaciones es que se utilice la IA para tomar decisiones con una visión muy reducida sobre el mundo.

El dinero y el poder siempre tendrán lo mejor del mercado. Y sí, la IA no es democrática ni justa. Y es cierto que solamente las personas más poderosas pueden acceder a las herramientas más poderosas. Y el problema con la IA es que sí puede ser una vía para multiplicar desigualdades. Los ricos se volverán más ricos y los pobres más pobres. Pero, el otro problema es que la IA está alimentada de datos y estos datos son los de una minoría, o de una representación muy similar a la minoría y no son inclusivos. Pienso que estos datos deberían estar mejor alimentados, desarrollados por personas que no viven en las grandes ciudades. Sería una posible solución.

Vienes de Italia, un país que ha sido bastante crítico en torno a la IA. Incluso, fue uno de los países que prohibió ChatGPT. Desde tu perspectiva, ¿qué está dejando pasar el Occidente en términos de regulación y ética?

Una regulación efectiva necesita tiempo porque necesitas entender el fenómeno. Y la IA va muy rápido y nos falta comprensión sobre ella. En la Unión Europea realizamos el Reglamento General de Protección de Datos (RGPD) y, porque entendíamos bien el fenómeno, no pusimos una lista de qué datos proteger, sino los datos que te pueden conectar como persona. Por ejemplo, no es que una IA pueda decir quién eres, pero sí sabe hasta la forma en que respiras. Los datos de tu respiración están protegidos por la RGPD. Y así es como una regulación mundial es capaz de adaptarse a los cambios. El primer intento que tuvimos, que fue la prohibición de GPT-3, no era de este tipo.

Están creando todas estas leyes y protecciones, pero la mayoría de las empresas que desarrollan la IA son de Estados Unidos. ¿Cómo están lidiando con este choque?

Cuando Ford salió al mercado, nosotros desarrollamos un Ferrari. Estamos haciendo lo mismo con el mercado de la IA. Nos estamos dando cuenta que la IA es verdaderamente importante para los negocios, la educación y para la vida social. Después nos desarrollamos. Tenemos muchas empresas emergentes y otras que están desarrollando otro tipo de productos. Sí, las más grandes empresas occidentales tienen el monopolio. Si no, vas a China y ese es otro tipo de monopolio. Europa está en medio y está intentando definir un enfoque europeo para la IA.

Antes, para llegar a la conclusión de un libro tenías que leerlo. Ahora puedes pedir un resumen a la IA. Existen muchas dudas en torno a si la IA está haciendo más superficial el conocimiento y la forma de pensar. ¿Qué piensas sobre esto?

Bueno, déjame responderte con una experiencia personal. Todavía recuerdo el número de teléfono de los chicos que jugaban al fútbol conmigo cuando era niño. Bueno, lo recuerdo porque en aquella época no había teléfono móvil. Y ahora le pido a Siri que me dé los números. ¿Soy más estúpido? ¿Soy menos profundo? No. Simplemente nuestro cerebro es un dispositivo de consumo de energía. Y si puedo ahorrar energía, la usaré en otra cosa.

Entonces, si es cierto que si te quito una tarea no significa que la uses para otra cosa. Pero si puedo quitarte el peso de hacer tareas, será mejor para todos. Un ejemplo es la condición de las mujeres en la historia. Conforme fue habiendo más tecnología que entró al estilo de vida de las mujeres, pudieron ser más libres. En estudiar, en cambiar culturalmente su posición en la sociedad. Probablemente vemos un proceso como ese. En el que personas que actualmente se ven obligadas por algún tipo de tarea puedan ser libres y puedan desarrollar un nuevo tipo de cultura, un nuevo tipo de pensamiento, cosas que puedan enriquecer a la sociedad. Ahora, no es seguro que eso suceda. Podría suceder, pero tengo un poco de esperanza.

Pero, ¿qué sucede con el conocimiento? Si vas a ChatGPT y le preguntas por el resumen del libro, te pierdes de la experiencia de adquirir el conocimiento. ¿Cómo nos va a cambiar eso?

Está bien, no cites a ChatGPT porque esa IA todavía inventa cosas. Mira, la IA es una tecnología muy reciente. Todavía tenemos que desarrollar el uso correcto de la tecnología. No se puede pedir un resumen de un libro a una IA que no lo leyó. ¿Le preguntarías en la calle la dirección para ir a algún lugar de la Ciudad de México a un italiano que no conoce la Ciudad de México? Estás haciendo lo mismo con la IA. Serán otras tareas en las que la IA sea realmente poderosa, como recopilar datos. Se puede hacer un buen uso de esta tecnología. Pero el que se busquen resúmenes de libros en ChatGPT es comprensible porque la tecnología acaba de aparecer. Es rápido, está impactando a la sociedad. Estamos entre la tecnología y la adaptación.

Con el auge de la IA ¿cuáles crees que son los valores más importantes en los que deberíamos centrarnos en este momento?

Confianza, transparencia y probablemente el valor más importante es la justicia.

La IA, ¿es nuestro nuevo Dios?

Podemos tener una relación con la IA, haciendo de la IA una especie de nuevo Oráculo. Pero no es un problema de IA. Es un problema de nosotros mismos. Sabemos como seres humanos que podemos tener una relación enfermiza. A veces podemos tener una relación marido-mujer que es enfermiza. Y la esposa hace del marido el dios. Entonces esta es una relación enfermiza porque tienes que prepararte en el mismo plato de la balanza. Y haces del otro la autoridad sobre tu vida. Así que este es un problema de nuestra naturaleza que simplemente podemos dar un paso atrás gracias a nuestro poder y nuestra autonomía. Podemos hacerlo con máquinas, con una máquina tan poderosa. Pero el problema una vez más no estará en la máquina, sino en las personas que cedan su propia autonomía.

Intervención en el foro “Construyendo el Futuro de la IA”

Con un derroche de conocimiento y gran sentido del humor, Benanti consideró que el uso ideal de la IA es el de una suerte de copiloto que ayude a las personas a tomar las mejores decisiones, y no un piloto automático, que tome todas las decisiones. Durante su ponencia magistral, “Perfiles éticos para las inteligencias artificiales”, el experto explicó que la función de ChatGPT va en ese sentido auxiliar. Lo que hace esta IA, dijo, es usar su conocimiento de nuestro lenguaje natural para ser una interfaz (intermediario) entre los usuarios humanos y las máquinas.

¿Por qué la IA es distinta a otras tecnologías?

Paolo Benanti hizo una recapitulación de un siglo de avances tecnológicos. “Cuando empezamos a transformar a la sociedad y las relaciones entre nosotros con la revolución industrial, todo sucedió con un proceso de automatización”. La revolución industrial, comentó, empezó cuando la máquina fue capaz de sustituir los músculos de los seres humanos. El siguiente paso se dio gracias a la informática, cuando las máquinas podían ser programadas para realizar funciones automatizadas. Ese tipo de revolución digital, indicó el padre, sucedió con un proceso lógico muy claro: un programador, un ingeniero, tiene que definir todo lo que ocurre y cuál es la respuesta de la máquina ante una situación, es decir el algoritmo. Si ocurre A, entonces ocurre B.

En el caso de la IA, el paso más reciente en esta evolución, la máquina, o el software, es entrenada y después es capaz de reaccionar al ambiente. Regular este tipo de tecnologías es problemático porque se necesita una definición precisa. Entonces ¿qué es la IA hoy en día? Es una máquina en donde la operación no se da por “si A entonces B”, sino que se da por metas, y entonces la máquina encuentra la forma de cumplir esas metas. La máquina es capaz de interactuar con el ambiente y con los elementos no previstos que suceden en ese ambiente.

Los algoritmos detrás de la IA, puntualizó, van desde los árboles de decisiones hasta el aprendizaje profundo. Cada una de estas técnicas de aprendizaje tiene diversas formas de funcionar y diversos niveles de confiabilidad, señaló. Una de las más recientemente desarrolladas es el modelo de lenguaje grande (LLM, por sus siglas en inglés), un aprendizaje dirigido a grandes cantidades de texto. Así, relató Paolo Benanti, recolectamos todo el texto disponible en Internet y la máquina fue capaz de darte no sólo una palabra, sino una frase, un párrafo, “incluso es capaz de responderte como si la máquina supiera algo de la realidad”.

La pandemia aceleró la llegada de tecnologías como las denominadas IA generativa, que no se esperaban antes del año 2030, pero llegaron a finales de 2022. Éstas generan texto, imágenes y otros productos creativos, como ChatGPT y MidJourney (que se puede usar en la arquitectura), con la cual una persona no profesional creó una serie de imágenes virales del papa Francisco usando un abrigo acolchado blanco. Estas imágenes tuvieron más de 100 millones de compartidas en menos de tres horas. Gracias a estas herramientas, reflexionó Benanti, la habilidad de crear imágenes fotorrealistas está compitiendo con algo que antes era una habilidad que se adquiría con estudios profesionales en la universidad. Ahora cualquiera puede generar muy buenos efectos.

La intención de ChatGPT es ser una interfaz usuario-máquina

GPT es la más reciente interfaz diseñada para entender nuestro lenguaje natural y que la persona usuaria sea más productiva con la máquina, explicó el padre Paolo. “De hecho, cuando buscas algo en Google, escribes lo que tienes en mente. Los ingenieros están desesperados, saben que existe un lenguaje para cuestionar un motor de búsqueda, pero nadie en la faz de la tierra usa el lenguaje adecuado. Entonces Google te arroja algo”.

“Pero imagina tener un modelo de lenguaje grande (LLM) que te entienda, traduzca tu solicitud en la solicitud de búsqueda de la máquina y luego recopile las mejores respuestas y las traduzca en un texto original con notas a pie de página para ti”. Por ello, señaló que el uso de la IA es el de un copiloto. Hay una diferencia entre piloto automático y un copiloto, apuntó: en el primero, la máquina decide todo, en el segundo, la máquina está hecha para hacer que los humanos sean mucho más capaces de tomar las mejores decisiones posibles. “La ética en la IA cuestiona ante todo la tecnología para ayudar a los seres humanos a ser mejores seres humanos”.

Del mismo modo, datos que antes sólo un profesional podía interpretar, ahora son entendibles gracias al uso de GPT entrenado con conocimientos especializados. Por ejemplo, planteó que, aunque no es un experto en geografía, puede hacer una pregunta en un lenguaje normal y obtener la mejor respuesta posible de un sistema GPT alimentado con una base de datos de cartografía y geografía. “Este es el punto más revolucionario que se desprende de este tipo de LLM”.

Advertencias sobre la innovación

El teólogo franciscano también advirtió de una concentración del mercado, “porque la innovación tiene un costo; entonces, si introducimos la IA dentro del mercado, sólo las personas que puedan pagar la innovación permanecerán en el negocio”. En el terreno de la información noticiosa, agregó que la innovación digital permite tener una gran plataforma que las distribuye, y ya no son las buenas noticias, sino las noticias más viables mediante un algoritmo, “entonces, están cambiando el producto”.

Destacó que las IA no solamente tienen poder de predicción, sino también de provocar conductas. Como cuando en las compras en línea aparecen sugerencias que finalmente incrementan las ventas. Esto está enmarcado en lo que se conoce como “Teoría del empujón”. Éticamente hablando, “debemos cuestionar la libertad social y toda la libertad asociada al uso de este tipo de sistemas”.

La paradoja de la inteligencia artificial

Benanti apuntó a una extraña paradoja dentro de la IA: una máquina es realmente capaz de realizar tareas cognitivas altas mejor que tareas cognitivas bajas. Una calculadora alimentada por energía solar cuesta menos de 20 pesos, mientras que un brazo robótico para reemplazar un brazo humano se vende por 120 millones de dólares, contó. “¿Qué tipos de trabajo tendremos mañana, si los mejor pagados son los que podemos automatizar para ahorrar dinero para la empresa?”, preguntó el teólogo. Las grandes inversiones actualmente son en LLM, afirmó. La previsión de McKinsey es que el LLM puede producir 4 billones de dólares en el próximo año, más del PBI de Reino Unido (3.3 billones de dólares). Así que el empuje de este tipo de tecnologías en el mercado será impresionante.

 

Información adicional

• La “algorética” es necesaria para la coexistencia entre hombres y máquinas
• Ética y regulación, imprescindibles para que la IA sea fuente de progreso: Paolo Benanti
• Rodrigo Hidalgo: “La Inteligencia Artificial tiene mucho que aportar a los estudios de Teología”

Publicaciones recomendadas en Buena Voz Noticias

• El Vaticano, IBM y Microsoft dialogan: Ética e Inteligencia Artificial
• Inteligencia artificial: las religiones piden una algorética
• IA y Educación Superior: Iglesia impulsa debate ético
• ¿Cómo usar inteligencia artificial? Un manual católico
• Universidades católicas: Usar inteligencia artificial con responsabilidad
• Educadores cristianos: No tengan miedo del ChatGPT

Fuentes

Expansión / Ibero / Videos: ITESO – Instituto Razón Abierta – Ibero / Foto: Wikimedia Commons