Nicolas Papernot advierte sobre gusanos informáticos impulsados por IA que se propagan rápidamente
La tecnología de IA podría potenciar enormemente la capacidad de los gusanos informáticos para replicarse y explotar vulnerabilidades en dispositivos conectados a internet.
En un aviso preocupante, la empresa Anthropic ha señalado que los "gusanos informáticos impulsados por inteligencia artificial podrían propagarse rápidamente a través de dispositivos conectados a internet.
Un gusano informático es un tipo de software malicioso que se propaga por sí solo entre dispositivos, y la tecnología de IA podría potenciar enormemente su capacidad para replicarse.
Nicolas Papernot, profesor asociado de ingeniería eléctrica e informática en la Universidad de Toronto, lideró un equipo que construyó un prototipo de malware impulsado por IA en junio pasado utilizando modelos de inteligencia artificial de acceso libre.
Los dispositivos conectados a internet, conocidos como Internet de las Cosas, suelen tener una ciberseguridad deficiente, lo que los convierte en objetivos fáciles para actores malintencionados.
La IA ha cambiado la dinámica de creación de gusanos informáticos, ya que ahora un atacante puede diseñar un programa malicioso que adapte su estrategia a las particularidades de cada dispositivo.
Esto significa que el software malicioso no solo explota vulnerabilidades de software, sino también errores de configuración y otros problemas que pueden afectar la seguridad del sistema. Por ejemplo, si una persona utiliza la misma contraseña en múltiples servicios o no configura correctamente una base de datos, puede estar comprometiendo la seguridad de su dispositivo.
La IA permite a los atacantes anticiparse a las posibles vulnerabilidades de cada dispositivo, lo que hace que sea mucho más difícil interrumpir la propagación del gusano informático. Esto se debe a que el software malicioso puede explotar una amplia variedad de debilidades, desde errores de software hasta problemas de configuración.
La velocidad y la escala con las que los gusanos informáticos impulsados por IA pueden actuar también han aumentado significativamente. En el pasado, un dispositivo poco utilizado como un portátil en el sótano no era blanco de un atacante humano debido a su baja prioridad y recursos limitados.
La autonomía otorgada por la inteligencia artificial (IA) a los dispositivos informáticos ha cambiado el panorama de seguridad en Internet. Ahora, estos dispositivos se convierten en objetivos interesantes para atacar blancos más valiosos.
El lanzamiento de un agente informático sigue siendo una decisión humana, aunque una vez liberado, puede replicarse y llevar a cabo acciones autónomas. Esto significa que la IA no es el principal responsable de las amenazas, sino los humanos que decidieron utilizarla para fines malintencionados.
Para mitigar estos riesgos, expertos recomiendan cambiar las prácticas de desarrollo y prueba de los modelos de IA. Se sugiere inicialmente desconectarlos de Internet para evaluar su comportamiento antes de exponerlos a infraestructura crítica en línea.
La actualización de dispositivos y la aplicación de correcciones de vulnerabilidades son tareas que no siempre se realizan a tiempo, lo que aumenta los riesgos. Aunque expertos han pedido mayor ciberseguridad durante décadas, sigue siendo un desafío mejorar la seguridad de los sistemas de computadores.
Se requiere mayor cooperación internacional para mejorar la seguridad de los sistemas de computadoras y proteger contra ataques cibernéticos. Para lograr esto, algunos expertos sugieren la creación de un organismo internacional que estandarice el entrenamiento y contenido de modelos de inteligencia artificial (IA). Esto sería fundamental para desarrollar modelos más seguros.
La falta de transparencia en los reportes de incidentes de seguridad es otro problema grave. En la actualidad, solo se obtiene información sobre incidentes cuando los desarrolladores de IA lo desean divulgar, lo que limita significativamente la capacidad de las comunidades académicas y de investigación para entender y contrarrestar las amenazas cibernéticas.
La implementación de reportes obligatorios de incidentes de seguridad sería un paso crucial hacia la mejora de la seguridad en línea. Esto permitiría a los expertos entender mejor las amenazas y desarrollar contramedidas efectivas, evitando así que los gusanos" informáticos sigan explotando vulnerabilidades en los sistemas de computadoras.
Datos basados en información reportada originalmente por El Economista.
Puedes republicar esta nota, completa o en parte, citando a Información Center con un enlace a ella (licencia CC BY 4.0). Las fotos no están incluidas.
