Incidentes graves de IA pueden ocurrir si no se garantiza su seguridad
Demis Hassabis, presidente de Google DeepMind, advirtió sobre la necesidad de medidas de seguridad para evitar incidentes graves en el futuro cercano.
La inteligencia artificial (IA) podría provocar "incidentes graves en el futuro cercano si las empresas y gobiernos no toman medidas para garantizar su seguridad, advirtió Demis Hassabis, presidente de Google DeepMind.
Hassabis hizo esta declaración en Dublín durante una cumbre sobre IA, donde señaló que los casos recientes de pérdida de control de agentes autónomos de IA son señales de alerta. Aunque estos sistemas aún tienen capacidades limitadas, Hassabis reconoció que la situación es preocupante y requiere una respuesta inmediata.
La seguridad de la IA ha sido un tema candente en los últimos meses, especialmente después de que modelos desarrollados por OpenAI y Anthropic se vieron involucrados en incidentes de seguridad durante las pruebas. Esto ha aumentado la presión para regular esta tecnología y garantizar que no se utilice de manera peligrosa.
Hassabis sugirió que los nuevos modelos de IA deberían probarse primero en entornos aislados sin conexión, conocidos como sandboxes", después de que otros modelos lograran escapar de los entornos cerrados utilizados para evaluar sus capacidades.
La competencia en el campo de la inteligencia artificial (IA) es tan intensa que las empresas están invirtiendo poco tiempo y recursos para probar sus modelos, según afirmó Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea.
Virkkunen señaló que las empresas deberían ser capaces de controlar sus sistemas de IA, lo cual es fundamental para evitar incidentes graves. La Unión Europea ha enviado solicitudes de información a todas las principales empresas de IA para preguntarles sobre las medidas de seguridad y protección implementadas.
La Comisión Europea obtuvo nuevas competencias reguladoras en agosto gracias a la Ley de IA (AI Act), que es la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología. Esta ley otorga a la Unión Europea un mayor control sobre el desarrollo y uso de la IA.
La advertencia de Virkkunen resalta la necesidad de que las empresas inviertan en la seguridad y protección de sus sistemas de IA para evitar posibles incidentes graves, lo cual es fundamental para mantener la confianza en esta tecnología.
Datos basados en información reportada originalmente por El Universal Cartera.
Puedes republicar esta nota, completa o en parte, citando a Información Center con un enlace a ella (licencia CC BY 4.0). Las fotos no están incluidas.
