La inteligencia artificial genera un nuevo desafío para los tribunales estadounidenses

La inteligencia artificial (IA) está generando un nuevo desafío para los tribunales estadounidenses. Los representantes de las empresas OpenAI y Meta advirtieron recientemente a un comité judicial federal sobre el aumento en la sofisticación de pruebas falsas creadas por la IA.

En una reunión celebrada en Boston, los expertos compartieron sus opiniones sobre la evolución de esta tecnología. Según ellos, los rápidos avances en la IA generativa han llevado a un punto en el que los videos falsificados se vuelven difíciles de detectar tanto para las personas como para el software.

Los representantes de OpenAI y Meta destacaron que las imágenes generadas por IA no cesan de mejorar. De hecho, Shira Anderson, asesora de políticas de OpenAI, afirmó que en el futuro podría no existir una forma científica de detectar estas pruebas falsas creadas por la IA.

El comité ha estado debatiendo durante tres años cómo controlar los riesgos que plantean las pruebas falsificadas generadas por IA en los tribunales. La reunión en Boston fue parte de este proceso de discusión y debate sobre una cuestión cada vez más urgente en el sistema judicial estadounidense.

El comité que está examinando los problemas de autenticación en el sistema judicial estadounidense ha estado debatiendo cómo abordar este tema desde 2023. La tarea es compleja, ya que se trata de garantizar que las pruebas generadas por inteligencia artificial (IA) cumplan con los mismos estándares de fiabilidad que las presentadas por peritos humanos.

A pesar de la falta de evidencia de un problema generalizado, el poder judicial ha intentado anticiparse a esta situación. En marzo, el Centro Federal del Poder Judicial, el órgano de investigación del sistema judicial, llevó a cabo una encuesta entre 931 jueces y solo encontraron 15 casos en los que se había impugnado una prueba por considerarla un "ultrafalso.

Los expertos en el sector, la academia y el Gobierno han advertido de que esta cuestión no es puramente hipotética. Aunque todavía no se han visto muchos casos de este tipo, predicen que los tribunales tendrán que lidiar con pruebas generadas por IA.

El juez federal de distrito de Manhattan Jesse Furman, quien preside el panel que está examinando esta cuestión, ha expresado sus dudas sobre la gravedad del problema. Sin embargo, otros expertos han señalado que es importante abordar este tema con seriedad para evitar problemas en el futuro.

La generación de pruebas falsificadas por inteligencia artificial (IA) está volviéndose cada vez más sencilla y difícil de distinguir de contenido auténtico.

Según Devin Norder, director de gestión de productos de Meta, los contenidos multimedia creados con modelos de vanguardia son indistinguibles para los seres humanos de aquellos generados por IA. Esto hace que sea cada vez más complicado para los tribunales identificar y separar el contenido auténtico del falso.

Las empresas como OpenAI y Meta están tratando de adoptar herramientas y servicios para verificar la validez del contenido visual, y las nuevas leyes en California y la Unión Europea requieren el uso de marcas de agua" para detectar los contenidos ultrafalsos.