En el corazón del debate contemporáneo sobre la inteligencia artificial (IA) y su regulación, el Papa León XIV ha emitido un llamado significativo a la acción a través de su primera encíclica, Magnifica Humanitas. En un momento en que las capacidades tecnológicas avanzan a un ritmo vertiginoso, desbordando a las instituciones encargadas de regularlas, León advierte sobre los peligros inherentes a una IA sin restricciones. Sin embargo, también señala que, con las medidas adecuadas, la IA puede ser una herramienta de prosperidad para la humanidad.
A pesar de la importancia de estas palabras desde una perspectiva moral, la realidad es que la Iglesia Católica podría no tener la influencia necesaria para trazar la agenda tecnológica global. Del mismo modo, la intervención gubernamental en este ámbito no parece prometedora. La naturaleza transnacional del desafío que representa la IA exige un marco de gobernanza multilateral. Sin embargo, en un contexto donde Estados Unidos renuncia a liderar globalmente y donde las grandes potencias como China e India compiten por la dominación tecnológica, el surgimiento de un “Bretton Woods de la IA” parece poco probable.
No obstante, una herramienta poderosa permanece a disposición: el capital. Las instituciones que controlan grandes cantidades de activos, como fondos soberanos, sistemas de pensiones públicas y grandes fundaciones, gestionan conjuntamente más de 75 billones de dólares, una cifra que representa aproximadamente el 70% del PIB mundial. Estas entidades tienen la obligación fiduciaria de buscar rendimientos a largo plazo, lo que implica la necesidad de un sistema económico estable.
Mientras que las empresas tecnológicas pueden asumir riesgos estratégicos en busca de una ventaja competitiva, y los estados pueden actuar de manera impulsiva para alterar el equilibrio de poder, las instituciones de inversión que administran capitales masivos enfrentan un riesgo diferente. Un fracaso catastrófico en cualquier sector no solo significa pérdidas en un ámbito, sino que pone en peligro su mandato.
Ante la incapacidad de los gobiernos para coordinar esfuerzos y la dificultad de las empresas para autorregularse, surge la necesidad de un pacto global donde un número significativo de grandes propietarios de activos reconozca el riesgo existencial como un factor clave en su gobernanza de inversiones. Este pacto podría vincular el acceso al capital a estándares definidos en IA, extendiendo estos requisitos tanto a las inversiones que realizan como a los gestores de activos que seleccionan.
La historia nos ofrece precedentes de este enfoque. Los Principios de Sullivan, propuestos por el reverendo León Sullivan en 1977, utilizaban la asignación de capital para influir en las normas de derechos laborales y civiles en Sudáfrica durante el apartheid. De manera similar, el Proyecto de Divulgación de Carbono surgió de un esfuerzo conjunto de inversores institucionales que buscaban estándares comparables de datos climáticos, lo que demuestra que un número considerable de interesados en el mercado puede efectivamente influir en condiciones amplias.
El pacto de capital que se propone comenzaría con un grupo fundacional de fondos soberanos, pensiones públicas y fundaciones. A pesar de sus diferencias políticas, estas instituciones enfrentan un conjunto único de desafíos que las empujan hacia la consideración de factores más allá de la simple maximización del rendimiento.
Desde el punto de vista de la operativa, dicho pacto se centraría en la divulgación estandarizada y la evaluación comparativa. Los miembros acordarían un conjunto básico de métricas, que incluirían auditorías de seguridad y supervisión humana en decisiones críticas donde interviene la IA. Además, crearían una organización sin fines de lucro, neutra e independiente, responsable de recopilar y evaluar los datos, brindando a cada miembro información sobre su exposición relativa a la IA en comparación con sus pares.
La propuesta inevitablemente evoca comparaciones con la inversión ambiental, social y de gobernanza (ESG). Sin embargo, a diferencia de ESG, el pacto de capital no se basa en valores, sino en la gestión de un riesgo financiero claramente definible que podría amenazar el valor a largo plazo de todos los activos institucionales.
En resumen, a medida que la IA se presenta como una de las mayores oportunidades y riesgos de nuestra era, las instituciones que manejan vastos montos de capital se convierten en actores fundamentales para imponer las restricciones necesarias a gran escala. En un mundo marcado por la competencia y la fragmentación política, son esos grandes propietarios de activos los que deben asumir el liderazgo y la responsabilidad que los gobiernos y la religión no pueden proporcionar.
Esta nota contiene información de varias fuentes en cooperación con dichos medios de comunicación
