La expansión de modelos de inteligencia artificial (IA) desarrollados en China ha levantado serias preocupaciones en Europa y América Latina. Expertos advierten sobre los riesgos asociados a la adopción de estas tecnologías en sectores críticos, un tema que ha cobrado relevancia en el actual clima geopolítico.
Patrick Upmann, fundador de AIGN.global y especialista en gobernanza de IA, subraya que la principal inquietud radica en la falta de transparencia en la gobernanza de los modelos chinos. Cuando las empresas integran sistemas de IA, lo hacen en un entorno que muchas veces es opaco: existen lógicas de datos, mecanismos de alineamiento, y restricciones políticas que son difíciles de discernir. “Al adoptar una IA, las organizaciones pueden estar delegando parte de su juicio a infraestructuras externas”, explica Upmann, enfatizando que esto no es solo un problema técnico, sino un desafío a la autonomía institucional.
Para las empresas que operan en áreas como la administración pública, la salud, o las finanzas, la falta de auditoría independiente y transparencia representa un riesgo cada vez mayor. Sin un control claro sobre las actualizaciones y el tipo de datos con los que trabaja un sistema, el peligro de depender de un proveedor se amplifica. “Las instituciones deben asegurarse de que pueden mantener el control sobre su propio criterio”, añade el experto.
Mientras modelos de IA desarrollados en China son promocionados como accesibles y competitivos, Upmann sugiere que gobiernos y empresas en estas regiones adopten un enfoque de gobernanza basado en riesgos. Esto implica cuestionar la naturaleza de los datos procesados, la capacidad de realizar auditorías independientes y la jurisdicción de las tecnologías empleadas. “El hecho de que un sistema sea de código abierto no garantiza su confiabilidad. Puede haber apertura en el código, pero opacidad en otros aspectos fundamentales”, acota.
En contextos de bajo riesgo, esta IA puede tener aplicaciones beneficiosas. Sin embargo, Upmann aconseja que para sectores regulados se establezcan requisitos rigurosos que incluyan transparencia, trazabilidad, y protección de datos. “Una inteligencia artificial económica podría resultar en altos costos estratégicos si conlleva una dependencia perjudicial”, advierte.
En cuanto a la influencia política que puede ejercer Beijing a través de estos sistemas, Upmann señala que esta ocurre de manera indirecta, manifestándose en la moderación de contenidos y en la selección de fuentes. Esto es especialmente relevante en regiones como América Latina, donde la rápida expansión digital podría facilitar la integración de estas tecnologías en servicios públicos, lo que podría conllevar a una influencia sobre la información y el conocimiento.
Sobre el sesgo ideológico presente en los sistemas de IA, se plantean comparaciones con plataformas estadounidenses que han sido apuntadas por su inclinación progresista. Upmann opina que el problema en China es más estructural. “No se trata solo de sesgo, sino de operar bajo un sistema político de partido único con un control estatal de la información”, explica, instando a las instituciones a evaluar no solo la precisión de la IA, sino también su neutralidad.
Finalmente, acerca de la posibilidad de imponer estándares internacionales de gobernanza a regímenes autoritarios, Upmann argumenta que, aunque dichos estándares no puedan aplicarse internamente, pueden ayudar a los mercados democráticos a establecer condiciones para el acceso a sus sectores críticos. Para cualquier sistema que intente operar en estos mercados, él propone requisitos claros en documentación, auditabilidad, ciberseguridad y supervisión humana.
Al comparar la competencia global en inteligencia artificial con una carrera armamentista, Upmann reconoce similitudes estratégica, aunque señala diferencias clave: la IA no solo representa una capacidad destructiva, sino también cognitiva y económica, penetrando profundamente en la infraestructura comercial y los sistemas autónomos. “La carrera de la IA no es solo sobre poder destructivo, sino también sobre influencia y control”, concluye el experto.
Esta nota contiene información de varias fuentes en cooperación con dichos medios de comunicación
