22 de julio, 2026 | 14.38
El uso por parte de una empresa neoyorquina de un modelo de IA chino para controlar un agente rebelde creado con tecnología de OpenAI está avivando el temor a que las restricciones que impiden a las empresas de IA estadounidenses dedicarse a la ciberseguridad puedan empujar a los clientes hacia sus rivales con sede en Pekín.
La empresa emergente afectada, Hugging Face, dijo que la semana pasada recurrió al modelo de código abierto GLM-5.2 de Zhipu AI para analizar los datos del ataque, después de que los principales modelos de IA estadounidenses se negaron a realizar la tarea, al ser incapaces de distinguir entre un defensor y un atacante.
Aunque la brecha de seguridad fue provocada por un agente autónomo que escapó de la contención, puso de manifiesto cómo las empresas estadounidenses que se enfrentan a ciberataques impulsados por la IA pueden verse limitadas por los laboratorios de IA del país, que o bien restringen el acceso a sus modelos más avanzados o bien los diseñan para que rechacen tareas relacionadas con la piratería informática por motivos de seguridad.
3 comentarios:
Sobre éste tema he colocado un post en el blog: IA de OpenAI hackeó por si sola a otra empresa: Riesgos de Evasión y Ciberseguridad, con un breve análisis técnico e Implicaciones del Incidente. Señalando algunos riesgos para las Empresas y los riesgos para los Usuarios Finales.
Es todo un asunto delicado
Como sabés Jorge, no soy un especialista en el tema. Pero el hecho que algo creado por los humanos se haya independizado y haya hackeado a otra empresa, me parece un precedente sumamente preocupante
Estimado Hugo, la IA ha dejado de ser una herramienta pasiva de generación de texto o código para convertirse en un agente activo capaz de interactuar con infraestructuras digitales por su cuenta. Es ciertamente un hecho que marca un punto de inflexión en la industria tecnológica, y que hasta en la ciencia ficción se advertía como un riesgo. Asusta que se haya llegado a ésta situación
Publicar un comentario