El debate técnico se desplaza de la IA generativa hacia sistemas autónomos capaces de actuar con mínima supervisión.
Investigadores señalan que la opacidad operativa y el impacto en infraestructuras críticas plantean desafíos éticos y regulatorios.
Especialistas e investigadores en ciencias de la computación advirtieron que los riesgos asociados al desarrollo de la inteligencia artificial se concentran actualmente en la llamada «IA agéntica», caracterizada por su capacidad para ejecutar procesos complejos, tomar decisiones y realizar transacciones con escasa intervención humana. A diferencia de las herramientas generativas tradicionales orientadas a la creación de contenidos, estos nuevos sistemas operan en sectores como la banca, la gestión de servicios y la administración de datos sensibles, ejecutando tareas operativas de forma directa.
Especialistas del sector académico y de la Fundación ELLIS expusieron que la delegación de autonomía a estos agentes en infraestructuras estratégicas —tales como la red eléctrica, el sector salud o la defensa— incrementa la vulnerabilidad ante fallos de control y ciberataques más sofisticados. Asimismo, remarcaron la dificultad para atribuir la responsabilidad legal y técnica cuando un sistema autónomo causa daños, desaconsejando el uso de términos que antropomorfizan la tecnología y trasladando la rendición de cuentas a las empresas desarrolladoras y a los marcos normativos gubernamentales.
Frente a la expansión de estos modelos, la comunidad científica aboga por reorientar el desarrollo hacia arquitecturas transparentes, auditables y con un impacto ambiental medido en los centros de procesamiento de datos. Los analistas coincidieron en la urgencia de consolidar reglamentaciones continentales y acuerdos de gobernanza internacional entre las principales potencias tecnológicas para regular el despliegue de la tecnología antes de su integración masiva.
Las autoridades regulatorias internacionales prevén analizar la efectividad de los marcos legales vigentes ante el rápido despliegue de esta nueva generación de sistemas.
