El experto en ciberseguridad y académico de la Facultad de Ingeniería y Ciencias Aplicadas de la Universidad de los Andes (Uandes), Claudio Álvarez, advirtió sobre los nuevos desafíos que plantea el uso de agentes de inteligencia artificial (IA) capaces de realizar compras de forma autónoma en plataformas digitales.
Sus declaraciones se dan luego de que Santander y Visa realizaran recientemente una prueba en la que sistemas de IA completaron compras en distintos países de la región, incluido Chile, adquiriendo productos como libros y bombones, lo que demuestra el potencial de estos sistemas para ejecutar pagos automatizados en diversos mercados.
Según explica Álvarez, este tipo de tecnología representa una evolución de la automatización que ya existe en el comercio digital. “Estos sistemas podrían actuar como asistentes de compra avanzados, capaces de buscar productos, comparar precios y concretar transacciones dentro de los límites definidos por el usuario”, señala.
Sin embargo, el especialista advierte que el avance también plantea nuevos riesgos en materia de ciberseguridad y protección de datos.
“El principal cambio es que la decisión económica deja de ser ejecutada directamente por una persona y pasa a ser delegada a un sistema autónomo. Eso abre varios vectores de riesgo”, explica.
Uno de los principales peligros es la posible manipulación de la información que estos sistemas encuentran durante su navegación en internet. “Si un agente de IA interactúa con plataformas para decidir qué comprar, podría ser influido por contenido malicioso o promociones engañosas diseñadas para inducir decisiones incorrectas”, advierte.
Otro escenario preocupante es el compromiso del sistema o de sus credenciales de acceso. En ese caso, un atacante podría utilizar la cuenta del usuario para realizar compras fraudulentas, convirtiendo a estos agentes en un nuevo objetivo para el fraude digital.
Álvarez agrega que estas herramientas requerirán acceder a grandes volúmenes de información personal, como hábitos de consumo, historial financiero y preferencias de compra, lo que incrementa el impacto potencial ante filtraciones o usos indebidos de datos.
Además, el especialista plantea interrogantes sobre quién asumiría la responsabilidad ante errores o manipulaciones. “No siempre está claro quién debería responder: el proveedor del agente, el banco, el comercio o el propio usuario”, señala.
También advierte sobre un posible riesgo sistémico en el comercio digital. “Si en el futuro millones de agentes automatizados comienzan a tomar decisiones de compra simultáneamente, por ejemplo reaccionando a promociones o variaciones de precio, podrían generarse comportamientos colectivos inesperados en los mercados”, afirma.
En ese sentido, el académico concluye que, si bien el uso de agentes de IA podría hacer el consumo digital más eficiente y personalizado, también abre una nueva superficie de ataque en el sistema financiero. Por ello, subraya la importancia de implementar estas tecnologías de manera gradual, con mecanismos robustos de seguridad, límites claros de operación y sistemas de auditoría que permitan revisar las decisiones que toman estos sistemas.