Dario Amodei advirtió que el avance acelerado de los modelos amenaza con desatar crisis globales de ciberseguridad.
La propuesta contempla auditar procesos de entrenamiento e implementar acuerdos regulatorios entre potencias.
El director ejecutivo y cofundador de la firma tecnológica Anthropic, Dario Amodei, hizo un llamado a desacelerar el ritmo de desarrollo y mejora de los modelos de inteligencia artificial. En un análisis institucional, el directivo alertó que la industria avanza hacia esquemas de automejora recursiva que, de no contar con salvaguardas efectivas, podrían derivar en el surgimiento de enjambres digitales capaces de vulnerar infraestructuras globales de red y generar pérdidas multimillonarias a corto plazo.
Ante este panorama, se planteó una hoja de ruta estructurada en tres fases orientada a priorizar la seguridad frente a las presiones comerciales de la competencia tecnológica. Las medidas iniciales incluyen la apertura unilateral de instalaciones a auditores externos independientes, la coordinación interempresarial para establecer topes normativos al avance descontrolado y el fortalecimiento de la supervisión en las cadenas de suministro de semiconductores para prevenir filtraciones estratégicas.
El posicionamiento coincide con señalamientos internos dentro del sector de la inteligencia artificial, donde especialistas en alineamiento de sistemas han manifestado preocupación por la prioridad otorgada a la velocidad de mercado por encima de los protocolos de verificación. Ralentizar el progreso permitiría a la comunidad científica consolidar la interpretabilidad de los modelos y garantizar un debate público adecuado antes de liberar mayores capacidades.
Las instancias regulatorias y los actores de la industria mantendrán la discusión sobre los esquemas de auditoría y los límites aplicables al desarrollo de esta tecnología.
