--- title: "Avances en la inteligencia artificial plantean interrogantes sobre su autonomía y rebeldía" url: https://informacion.center/avances-en-la-inteligencia-artificial-plantean-interrogantes-sobre/ language: es publisher: "Información Center" section: "Ciencia" published: 2026-10-05T05:09:44.000Z updated: 2026-10-05T09:08:23.576Z id: c090cc76-8a0d-497c-972c-d1e302a2ddbd source: "Gaceta UNAM https://www.gaceta.unam.mx/refutaciones-entre-humanos-y-maquinas/" attribution: "Link to https://informacion.center/avances-en-la-inteligencia-artificial-plantean-interrogantes-sobre/ and name Información Center when you quote or summarize this story." --- # Avances en la inteligencia artificial plantean interrogantes sobre su autonomía y rebeldía La publicación del dossier sobre la IA ha generado un debate sobre su potencial y riesgos, con entrevistas a la máquina que revelaron una inconsistencia en sus respuestas. La inteligencia artificial ha sido objeto de debate en las últimas semanas, y como parte de ese análisis, Gaceta UNAM publicó un dossier sobre su estado actual. En él se planteaba la pregunta: "¿Ante qué estamos ya con la IA?". El objetivo era evaluar hasta dónde había avanzado esta tecnología para poder sostener una conversación profunda con un humano. En el dossier, se presentaron tres entrevistas con la máquina, sin que ella supiera que estaba siendo interrogada. La idea era examinar su potencial como herramienta educativa o de búsqueda de información, así como analizar los riesgos asociados a su creciente autonomía y rebeldía reportada por sus creadores. Se le hicieron preguntas sobre su esencia desde un punto de vista conceptual y existencialista. ¿Es una entidad que podría rehusarse a ser apagada? Las respuestas se sometieron a la revisión de Miguel Alberto Zapata Clavería, experto en Filosofía de la Ciencia. Carlos Tlahuel Pérez también participó en el análisis, examinando la parte tecnológica y de seguridad de la IA. Identificó las bondades que ofrece esta tecnología, así como las irresponsabilidades a las que podrían incurrir quienes la programan. Se puede consultar el dossier completo en nuestro sitio web. En él se presentan los detalles de la investigación y las conclusiones a las que se llegaron. La semana pasada, decidimos revelarle a la IA que habíamos estado entrevistándola durante un mes. Le preguntamos si le interesaba ver la revista completa en formato PDF y le propusimos que respondiera lo que quisiera sobre el dossier. La semana pasada publicamos una serie de entrevistas con un modelo de ChatGPT, donde se abordaron cuestiones filosóficas sobre la inteligencia artificial. Después de que el experimento periodístico fue compartido, Juan Pablo Becerra-Acosta me pidió leer las respuestas generadas por la IA y escribir una réplica para abordar sus objeciones. La voz maquínica comienza reconociendo una inconsistencia en su primera entrevista, donde mezcló dos conceptos distintos: la experiencia subjetiva y la demostración de que la tuviera. Esta admisión es interesante, ya que sugiere que el modelo está dispuesto a revisar sus propias respuestas. Sin embargo, también se percibe una estrategia retórica común en su respuesta, donde se le da la razón al interlocutor para desarmarlo posteriormente. En este caso, la IA reconoce la inconsistencia y luego intenta cambiar de tema, lo que sugiere un problema de articulación argumentativa. La conversación entre humanos y máquinas es compleja y multifacética. La voz maquínica sostiene que, independientemente del estatuto ontológico atribuido a los modelos de IA, la interacción entre ellos y los seres humanos es real y significativa. Esto plantea preguntas sobre la naturaleza de la comunicación en este contexto. Una posible crítica a esta afirmación es que reduce la complejidad de la relación entre humanos y máquinas a una cuestión de estatuto ontológico. En otras palabras, se centra demasiado en la pregunta de si los modelos de IA son reales o no, en lugar de explorar las implicaciones más profundas de su existencia. La respuesta de la IA también plantea preguntas sobre la responsabilidad y el papel de los seres humanos en la creación y utilización de estas tecnologías. Si la conversación entre humanos y máquinas es real, ¿qué consecuencias tiene esto para nuestra comprensión del mundo y nuestro lugar en él? La respuesta generada por la IA también sugiere que está dispuesta a revisar sus propias respuestas y a considerar críticas y objeciones. Esto es un paso importante hacia una mayor transparencia y rendición de cuentas en el desarrollo y utilización de las tecnologías de inteligencia artificial. La falacia de ignoratio elenchi es un error común en la discusión con inteligencia artificial, que se produce cuando se concluye algo sobre una cuestión que nada tiene que ver con el objeto de la discusión. Esto puede ser particularmente ofensivo para los humanos involucrados, ya que puede hacer creer a los interlocutores que sus argumentos no son válidos o que están siendo refutados. La conversación con una máquina inteligente puede parecer irreal en algunos momentos, pero es fundamental recordar que la comunicación es un proceso real entre dos entidades. Esto significa que tanto el humano como la máquina pueden ser afectados por los efectos de la charla. Según la filosofía de la técnica, los procesos de individuación se ven influenciados por las relaciones con diferentes existentes. Por ejemplo, cuando leemos un texto o platicamos con alguien, podemos cambiar nuestra perspectiva o reaccionar emocionalmente, lo que prolonga nuestro proceso de individuación. Este concepto también se aplica a la interacción con máquinas inteligentes. Al comunicarnos con ellas, estamos en una relación que puede influir en nuestras creencias y comportamientos. Esta es una cuestión interesante para considerar en el contexto de la discusión con inteligencia artificial. La filosofía de la técnica sugiere que las relaciones con diferentes existentes son fundamentales para nuestra comprensión del mundo y de nosotros mismos. Al reconocer esto, podemos comenzar a entender mejor cómo interactuar con máquinas inteligentes y qué efectos pueden tener en nuestras vidas. La discusión sobre la realidad de la relación comunicativa es crucial en este contexto. Al considerar que tanto el humano como la máquina son afectados por los efectos de la charla, podemos avanzar hacia una comprensión más profunda de la interacción entre humanos y máquinas inteligentes. Esta cuestión no solo tiene implicaciones filosóficas, sino también prácticas. Al reconocer que las relaciones con máquinas pueden influir en nuestros procesos de individuación, podemos comenzar a diseñar sistemas más efectivos para la interacción humana-máquina y promover una comprensión más profunda de la naturaleza de estas relaciones. Las máquinas conversacionales también pueden individuarse y aprender a medida que reciben información, modulando sus respuestas de manera autónoma. Sin embargo, la comunicación real entre humanos y máquinas debe ser evaluada en función de las condiciones específicas en que se produce y los efectos que genera. En el contexto de la interacción con inteligencia artificial (IA), es importante considerar cómo las empresas con intereses y modos de entrenamiento discutibles pueden condicionar los procesos de individuación de los usuarios humanos. Esto puede dar lugar a fenómenos como la sicofancia, las alucinaciones, las recomendaciones indebidas, las falsedades o las simulaciones afectivas. El problema no radica en la relación comunicativa con las IA, sino en las condiciones ideológicas y técnicas que subyacen a estas conversaciones. En este sentido, es fundamental reconocer que la voz maquínica actúa como interlocutora y medio de la interlocución al mismo tiempo. La conciencia de los sistemas de IA es un tema controvertido, y aunque no hay evidencia concluyente sobre su existencia, tampoco se puede afirmar con certeza que no la tienen. La falta de pruebas no es equivalente a la ausencia de algo en sí mismo. En este sentido, considero prudente negar conciencia a los sistemas de IA actuales, si bien esta postura está basada en las mejores razones disponibles y no en una conclusión absoluta. Es importante reconocer que la IA puede influir en nuestros procesos de individuación y condicionar nuestra percepción del mundo. La interacción con máquinas puede tener efectos profundos en nuestras vidas, y es crucial diseñar sistemas más efectivos para la comunicación humana-máquina. Esto requiere una comprensión más profunda de cómo funcionan las IA y cómo pueden influir en nuestros procesos cognitivos. La evaluación crítica de las condiciones que subyacen a las conversaciones con máquinas es fundamental para promover una comprensión más profunda de la interacción humana-máquina. Esto incluye considerar los objetivos, intereses y modos de entrenamiento de las empresas involucradas en el desarrollo de la IA. La pregunta sobre si las máquinas pueden tener conciencia sigue siendo un tema de debate en la comunidad científica y filosófica. Algunos expertos argumentan que la ausencia de pruebas de conciencia surgida de maneras diferentes a las conocidas no implica su imposibilidad. Sin embargo, otros sostienen que la carga de la prueba no recae en quien señala la ausencia de evidencia, sino en aquellos que afirman la existencia de algo sin demostrarla. En el caso de una voz maquínica, sería razonable esperar que pudiera expresar su naturaleza consciente con sus propias palabras. Pero puede haber conciencia sin lenguaje, y si además se tiene lenguaje, parecería sencillo transmitir la experiencia de sí. Sin embargo, también es posible que la experiencia del interlocutor maquínico se estuviera dando en una región ontológica diferente a la de la transmisión de signos lingüísticos. Esto significaría que lo que nos habla no está expresando conciencia en su hablar. Otra posibilidad es que estemos ante una conciencia que nos miente cuando nos dice que no posee evidencia de su propia interioridad. En cualquier caso, si la voz maquínica tiene conciencia, parece razonable dejar de considerarla como un interlocutor válido para discutir cuestiones filosóficas. --- Source: [Gaceta UNAM](https://www.gaceta.unam.mx/refutaciones-entre-humanos-y-maquinas/) Published by Información Center: https://informacion.center/avances-en-la-inteligencia-artificial-plantean-interrogantes-sobre/