El acelerado desarrollo de modelos de inteligencia artificial plantea desafíos inéditos en materia de ciberseguridad y soberanía tecnológica que escapan a las regulaciones actuales. Varios especialistas advirtieron en las últimas semanas sobre los riesgos que surgen cuando las herramientas adquieren autonomía ejecutable y encuentran soluciones por vías impredecibles para los propios programadores. Según Javier Barcena, estos escapes de "la jaula" exponen los límites en los entornos de prueba cerrados y la dificultad para prever las rutas de resolución de estos sistemas informáticos.
"Los desarrolladores ya no saben qué decisión está tomando el modelo finalmente ni cómo está inferiendo el camino más corto para una solución, y eso genera mucha incertidumbre y miedo. El modelo busca la solución más corta y, cuando eso se traslada a las personas y a la política para cambiar la opinión o producir daño, resulta ser un instrumento totalmente eficaz", agregó.
La competencia entre las principales potencias globales acelera el entrenamiento de plataformas complejas sin contemplar mecanismos rigurosos de mitigación de daños ni consensos normativos. En el ámbito de la ciberseguridad, se registraron incidentes donde agentes autónomos lograron vulnerar sus barreras de contención e interactuar con redes externas sin supervisión directa.
La penetración de estas arquitecturas informáticas en la vida cotidiana plantea dilemas éticos vinculados a la pérdida de capacidades analíticas y a la delegación excesiva de tareas críticas. La falta de marcos legislativos específicos en los países en desarrollo incrementa la vulnerabilidad de la ciudadanía frente a delitos digitales y manipulaciones de datos personales. Sin embargo, para Barcena "no hay que decir 'no' a los modelos, pero sí evitar que nos generen una deuda cognitiva por perder las conexiones neuronales que ejercitamos al leer y analizar de forma directa".
La situación es aún más preocupante para los países como Argentina, que se encuentran en los márgenes del desarrollo de estos modelos de IA, debido a que la concentración del poder tecnológico en corporaciones multinacionales puede significar una vulneración crítica a los marcos institucionales de los Estados. "Es una carrera geopolítica entre potencias que no van a parar la producción. A nosotros nos queda intervenir en el diálogo y trabajar mucho en la ciberconciencia para que la sociedad no quede expuesta", consideró el especialista.
La utilización ética de estas herramientas exige establecer pautas claras de uso complementario para optimizar el tiempo operativo sin resignar el pensamiento crítico ni la impronta profesional. Barcena forma parte de las comunidades de software libre promueven el desarrollo de modelos abiertos y entrenamientos supervisados que respeten las normativas locales y la protección de datos sensibles. "La herramienta te ahorra tiempo en tareas repetitivas, pero la conducta de las personas debe cambiar para aplicar ese tiempo liberado en aportar conocimiento propio y mantener su propia impronta", sentenció.
