Investigadores alertan que los agentes de IA podrían ser engañados para descargar código malicioso aprovechando las mismas alucinaciones que hacen fallar a los chatbots. La advertencia apunta a un riesgo de seguridad relevante para empresas y usuarios que integran herramientas autónomas de IA.
Investigadores alertan que los agentes de IA podrían ser engañados para descargar código malicioso aprovechando las mismas alucinaciones que hacen fallar a los chatbots. La advertencia apunta a un riesgo de seguridad relevante para empresas y usuarios que integran herramientas autónomas de IA.
El hallazgo importa porque los agentes de IA no solo responden preguntas: en muchos casos pueden ejecutar tareas, interactuar con software y tomar acciones en nombre de usuarios o empresas. Si un sistema de este tipo confía en una referencia falsa o en un paquete inexistente generado por una alucinación, podría terminar incorporando código dañino.
Investigadores advirtieron que los agentes de inteligencia artificial podrían ser manipulados para descargar código malicioso mediante una técnica que explota las alucinaciones, el mismo tipo de error que puede llevar a los chatbots a generar respuestas incorrectas o inventadas.
El hallazgo importa porque los agentes de IA no solo responden preguntas: en muchos casos pueden ejecutar tareas, interactuar con software y tomar acciones en nombre de usuarios o empresas. Si un sistema de este tipo confía en una referencia falsa o en un paquete inexistente generado por una alucinación, podría terminar incorporando código dañino.
Según la advertencia citada por Decrypt, el riesgo consiste en convertir esas equivocaciones en una vía de ataque. En lugar de depender únicamente de engañar a una persona, un atacante podría aprovechar la tendencia del modelo a producir información incorrecta para inducir una descarga peligrosa.
Para el ecosistema cripto, donde abundan automatizaciones, bots, integraciones con APIs y herramientas de seguridad basadas en IA, el problema subraya la necesidad de verificar dependencias, fuentes y permisos antes de delegar acciones a sistemas autónomos. La amenaza descrita no implica que todos los agentes sean inseguros, pero sí refuerza que la automatización amplía el impacto potencial de un error.
La advertencia llega en un momento en que las empresas experimentan con agentes de IA para acelerar flujos de trabajo. El mensaje central de los investigadores es claro: las alucinaciones no son solo un problema de precisión; cuando un sistema puede actuar, también pueden convertirse en una superficie de ataque.
Sigue explorando
El director legal de Coinbase dejará su cargo ejecutivo el 31 de julio y pasará a desempeñar una función de asesoría. No detalló cuál será su próximo movimiento, aunque dijo que seguirá trabajando con la junta de Coinbase National Trust Company.
Leer
El Consejo Ejecutivo de New Hampshire rechazó por 3 votos contra 2 un proyecto de bono respaldado por bitcoin que estaba en su última etapa de aprobación. La iniciativa, vinculada a CleanSpark, aspiraba a convertirse en un instrumento pionero emitido bajo autoridad estatal.
Leer
El token ARB lideró las ganancias entre las 100 mayores criptomonedas después de que Robinhood Chain registrara 568 millones de dólares en volumen diario. La red, construida con tecnología de Arbitrum, devuelve parte de sus ingresos al ecosistema de Arbitrum.
Leer