Agentes de IA permiten gusanos adaptativos
Investigadores de la Universidad de Toronto, el Vector Institute, la Universidad de Cambridge y ServiceNow demostraron que un gusano informático impulsado por IA, que utiliza Grandes Modelos de Lenguaje de peso abierto y un arnés agéntico especializado, puede propagarse de forma autónoma y explotar adaptativamente objetivos heterogéneos a través de una red.
El gusano logró la explotación del 73.8% y la replicación al 61.8% de los hosts objetivo en promedio en entornos simulados, incluyendo la explotación exitosa de vulnerabilidades divulgadas recientemente.
La investigación, realizada en un laboratorio digital cerrado al exterior, mostró que un gusano impulsado por modelos de IA abiertos puede tomar control de una red completa, apropiarse de capacidad de cómputo de las máquinas infectadas y usar esos recursos para continuar su expansión. El alcance de la amenaza abarca desde computadoras portátiles hasta sistemas de climatización y redes eléctricas, de acuerdo con Nicolas Papernot, uno de los autores del trabajo.
El trabajo se centró en modelos de IA de "pesos abiertos", que cualquier persona puede descargar y modificar de forma gratuita. Los investigadores quisieron poner a prueba la idea, extendida en parte de la comunidad de ciberseguridad, de que esos modelos más pequeños no tienen suficiente capacidad para causar daños reales.
Para hacerlo, construyeron una prueba de concepto en un sistema seguro y cerrado que simuló el comportamiento de un gusano de IA en una red de decenas de dispositivos interconectados, entre ellos portátiles, impresoras y cámaras.
A diferencia de un gusano tradicional, que sigue un guion fijo programado por humanos y fracasa si encuentra una defensa para la que no fue diseñado, el prototipo evaluó cada objetivo, adaptó su ataque y luego se copió en la siguiente máquina.
El estudio mostró que el gusano podía reunir información mientras avanzaba por la red: cada intrusión revelaba contraseñas y puntos débiles que facilitaban el acceso al siguiente equipo. Esa capacidad de ajuste hace que una sola defensa no baste para frenarlo.
Papernot explicó que el programa amplía su radio de acción a costa de las propias víctimas. Una vez instalado en una máquina, el gusano desvía potencia de procesamiento para sostener su razonamiento y preparar el siguiente ataque, lo que elimina en los hechos el costo de cada nueva infección.
De acuerdo con el portal, la principal diferencia con trabajos anteriores es que este prototipo no se limita a propagarse a través de aplicaciones de inteligencia artificial, sino que puede operar fuera de esos sistemas y atacar el software subyacente. Eso amplía de forma directa el universo de dispositivos en riesgo.
"Cada dispositivo conectado a Internet, portátiles, cámaras, termostatos inteligentes y todo lo demás, se convierte en un objetivo potencial, aunque no sea por los datos que almacena, sí como punto de apoyo para atacar objetivos más valiosos", indicó Papernot.
El prototipo no descubre vulnerabilidades desconocidas, a diferencia de modelos más potentes y fuertemente protegidos como Claude Mythos de Anthropic. Aun así, en un entorno abierto podría acceder a Internet, localizar avisos sobre fallas recién detectadas y explotarlas antes de que lleguen los parches de software.
Medidas concretas para reducir el riesgo
"En un mundo interconectado, ningún sistema es inmune a esta amenaza", señaló Papernot. "Compartir estos hallazgos es el primer paso para movilizar a investigadores, líderes de la industria y responsables políticos para que actúen, y rápido", agregó.
El profesor pidió a los profesionales de tecnología reforzar cualquier ajuste de seguridad que pueda dejar expuestos sus sistemas y sostuvo que los usuarios también deben intervenir. Sus recomendaciones fueron concretas: mantener los dispositivos actualizados, usar contraseñas robustas y activar la autenticación multifactor.
0 Comments:
Post a Comment
Gracias por dejar un comentario en Segu-Info.
Gracias por comentar!