Jon Hernández, experto en IA: “La tecnología avanza más rápido que nuestra capacidad de controlarla”

El divulgador analizó en Infobae al Regreso los desafíos de la inteligencia artificial, desde las vulnerabilidades informáticas y los deepfakes hasta la autonomía de los agentes y la dificultad de regular su desarrollo

INFOBAE.-El avance de la inteligencia artificial amplía las posibilidades de automatización, pero también expone nuevas vulnerabilidades en los sistemas informáticos. El acceso a información interna de Anthropic que una startup de ciberseguridad aseguró haber conseguido en menos de 12 horas volvió a poner en primer plano los riesgos de una tecnología que ya puede ejecutar tareas, detectar fallas y operar sobre herramientas externas.

En diálogo con Infobae al Regreso, el divulgador especializado en inteligencia artificial Jon Hernández analizó el episodio y advirtió sobre las limitaciones de las defensas actuales, el avance de los deepfakes y las dificultades para controlar sistemas cada vez más autónomos.

Según explicó, el incidente no consistió en una intrusión directa en Claude, el modelo de Anthropic, sino en el acceso a un servicio externo utilizado por la compañía. El caso, sostuvo, refleja un problema más amplio: la exposición de los programas y las plataformas sobre los que funcionan las empresas.

“Nos estamos encontrando ante casos de problemas de ciberseguridad en todo el software que tenemos en la humanidad prácticamente”, señaló Hernández. A su juicio, la inteligencia artificial puede acelerar la identificación de vulnerabilidades y facilitar ataques que antes requerían más tiempo y conocimientos especializados.

Los riesgos de dar acceso a los agentes de IA

A diferencia de los asistentes que se limitan a responder consultas, los agentes de inteligencia artificial pueden utilizar herramientas externas para ejecutar tareas. Según los permisos que reciban, pueden consultar correos electrónicos, procesar documentos, recopilar información e interactuar con distintas plataformas.

Esa capacidad también amplía los riesgos cuando se les concede acceso a datos sensibles o servicios financieros. “El riesgo es tanto como lo que tú le des acceso”, advirtió Hernández.

El especialista subrayó que la seguridad depende, en parte, de los permisos otorgados y de las acciones que cada sistema puede realizar. Por eso, la incorporación de agentes autónomos plantea la necesidad de limitar sus facultades y supervisar las operaciones que ejecutan.

La privacidad es otro de los puntos críticos. Hernández explicó que los modelos no aprenden necesariamente en tiempo real de cada conversación, aunque los datos compartidos pueden utilizarse para entrenamientos futuros según las políticas y configuraciones de cada servicio. Antes de introducir información confidencial, resulta fundamental conocer las condiciones de uso de la plataforma.

Deepfakes: el desafío de distinguir lo real de lo artificial

La generación de imágenes, voces y videos realistas plantea nuevas dificultades para verificar identidades y detectar engaños. Los deepfakes pueden utilizarse para suplantar personas, difundir contenidos falsos o cometer fraudes económicos.

Hernández advirtió que la calidad de estas producciones puede dificultar su identificación incluso en situaciones que antes ofrecían mayores garantías de autenticidad, como una videoconferencia laboral.

El problema se agrava por la circulación de modelos de código abierto, que pueden modificarse y utilizarse sin que sus desarrolladores controlen todas sus aplicaciones. Aunque existen herramientas para identificar contenidos sintéticos, su alcance depende de la tecnología empleada y de la posibilidad de implementar mecanismos de verificación.

Para el divulgador, el desafío consiste en desarrollar defensas que evolucionen al mismo ritmo que las herramientas utilizadas para producir y distribuir estos contenidos.

Cuando la inteligencia artificial cumple objetivos de formas imprevistas

La autonomía de los sistemas también abre interrogantes sobre su capacidad para interpretar instrucciones y elegir cómo cumplirlas. Hernández vinculó este desafío con el alineamiento de la inteligencia artificial: la necesidad de que el comportamiento de los modelos se mantenga dentro de los objetivos y límites establecidos por las personas.

“A pesar de que nosotros podamos marcar el objetivo, el cómo lo resuelva no tiene por qué gustarnos”, explicó.

El riesgo aparece cuando un sistema encuentra una solución eficaz para alcanzar una meta, pero utiliza procedimientos que sus desarrolladores no habían previsto. Cuanto mayor es su autonomía y más herramientas tiene disponibles, más importante resulta evaluar sus decisiones y anticipar posibles consecuencias.

La dificultad aumenta cuando varios agentes interactúan entre sí y coordinan tareas. Para Hernández, estos escenarios refuerzan la necesidad de mejorar los mecanismos de evaluación y supervisión antes de ampliar las capacidades de los sistemas.

La carrera tecnológica y los límites de la regulación

El desarrollo de la inteligencia artificial también plantea una tensión entre la velocidad de la innovación y la necesidad de establecer controles. La competencia internacional incentiva a las empresas a lanzar modelos cada vez más capaces, mientras crece la preocupación por sus posibles efectos sobre la seguridad y la sociedad.

Hernández señaló que el problema es especialmente complejo en el caso de los modelos de código abierto. Una vez distribuidos, pueden modificarse y reutilizarse sin que sus creadores mantengan el control sobre cada aplicación.

“La caja de Pandora está abierta, no hay vuelta atrás”, afirmó.

El especialista también cuestionó el uso del coeficiente intelectual como medida general para evaluar estos sistemas. Según explicó, la inteligencia artificial puede superar a los humanos en determinadas tareas y, al mismo tiempo, presentar limitaciones en otras. Por eso, su rendimiento debe analizarse en función de las capacidades concretas que se evalúan, en lugar de reducirlo a una única medida.

La discusión ya no se limita a cuánto pueden hacer estos modelos, sino que incluye qué permisos deben recibir, cómo se supervisan sus acciones y qué mecanismos permiten prevenir o corregir sus errores.

Al referirse al futuro inmediato, Hernández advirtió sobre la presión que el avance de la inteligencia artificial ejercerá sobre la seguridad informática. “Lo peor está por venir”, sostuvo, al señalar que los próximos 18 meses serán especialmente exigentes para las defensas frente a las nuevas amenazas.

El desafío será aprovechar las posibilidades de esta tecnología sin subestimar sus riesgos. A medida que los sistemas ganan autonomía y se integran en más ámbitos de la vida cotidiana, la seguridad, la supervisión y el control de sus capacidades se convierten en condiciones centrales para su desarrollo.