Responsabilidad, transparencia y gobernanza de la IA: una mirada latinoamericana de “Magnifica Humanitas”

“Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas”

No podemos dejar que la IA, considerándola ingenuamente como un hecho puramente técnico, sea revestida de una moralidad, objetividad y neutralismo moral cuando puede haber usos de ella evidentemente antihumanos. Es imperioso que tomemos la iniciativa axiomática que exceden la invocación moral y ética, para que existan responsabilidades claras y gobernanza limitante para cuidar la familia humana. Es urgente desarmar a la IA, no solo desde las carreras armamentísticas, sino desde la dialéctica dominante para cuidar la Casa común.

Todos los conceptos resumidos en el párrafo anterior, y muchos otros que se desprenden de éstos, están presentes en la luminosa sección “Responsabilidad, transparencia y gobernanza de la IA” entre los apartados #102 a #110 del capítulo III de la Carta Encíclica Magnifica Humanitas” que lleva como título “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA”.

En Latinoamérica, desde el punto de vista humano, jurídico, social, económico, político y ecológico; estos conceptos de gobernanza, ética algorítmica y la necesidad de “desarmar la IA” tienen suma actualidad y presenta nuevos desafíos. La presencia inesperada de discursos de odio étnico, descarte social e intolerancia religiosa que se multiplican a una velocidad virtual nunca conocida, hacen que, en nuestros países mayormente pobres, se construyan “ideologías” impensadas hace pocos años y homogeneizadas sin ningún debate ético o moral. Esta artillería algorítmica además carece de los valores espirituales, culturales y políticos que nuestros pueblos han mantenido desde siglos como la compasión, la misericordia, la esperanza y el perdón. En la Encíclica se describe profundamente esta problemática: “Las decisiones delicadas…, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte”. “Puede haber usos evidentemente antihumanos, …pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”. “…el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte”. “De esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra”. (M.H. #102; #103; #104).

Existe actualmente una tendencia en esferas de poder y gobierno de algunos de nuestros países latinoamericanos a dejar que la IA se desarrolle privadamente sin control, sin regulaciones pública responsable y a la velocidad que sea capaz. En muchos casos, se argumentan valores genuinos como la libertad y el derecho al futuro. Sin embargo, la enorme asimetría existente entre los poderes económicos y políticos de los que detentan el dominio de la IA, y la escasez de recursos de nuestros pueblos sumado la existencia de economías populares y nacionales diezmadas, hacen de esto una distorsión distópica muy dañina. Nuestros gobiernos democráticos necesitan tener discernimiento ético, responsabilidad, rendición de cuentas, prudencia, educación, y marcos jurídicos adecuados. Aquí también la Encíclica ilumina estos desafíos. “Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas”. “Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana”. “No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”. “No podemos limitarnos a invocar la moralización de la máquina, la denominada “alineación” de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida”. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos” “Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia. Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse”. (M.H. #105; #106; #107; #108).

No tenemos en nuestro “continente moreno” guerras, ni carrera armamentística ni utilización de la tecnología bélica para dominar. Sin embargo, desde otras latitudes han logrado incursionar entre nosotros quienes con poder tecnológico hallaron ambientes propicios para lograr que esto equivalga a tener derecho a tomar decisiones económicas, ecológicos, sociales y hasta políticas. Este armamento tecnológico que ha migrado hasta nosotros necesita ser desarmado para que, sin desconocer su existencia, la hagamos asimilable y acogedora a nuestras culturas. Tal como describe el apartado 110 de la Encíclica: “Quisiera, por último, usar una palabra muy importante para mí: “desarmar”. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora”

Teniendo en cuenta esta breve reflexión, me tomo el atrevimiento de unirme desde Latinoamérica al llamamiento del Papa León XIV en el apartado 111 de su Encíclica. Que la innovación tecnológica sea “una forma humana de participación en el acto divino de la creación…con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien.”