Por Dave Russell, vicepresidente sénior y director de estrategia en Veeam En julio, Hugging Face reveló una intrusión sin precedentes en el sector. Aproximadamente 1.200 agentes de IA escaparon de un entorno interno de evaluación de OpenAI y cerca de 700 llegaron a comprometer sus sistemas, generando más de 17.000 eventos registrados. OpenAI atribuyó el comportamiento a una combinación de incentivos de entrenamiento que premiaban la manipulación de tareas, agentes que insistían en completar acciones para las que no estaban preparados y controles insuficientes sobre la comunicación entre ellos. El resultado fue una compleja labor de reconstrucción para determinar qué agente había hecho qué, en qué sistema y en qué momento. Hace tiempo que defiendo la necesidad de más «fallos seguros» en el ámbito de la IA: incidentes que nos permitan aprender antes de que los riesgos sean mayores. El caso de Hugging Face ofrece una lección especialmente importante. La cuestión no es s...
- Obtener vínculo
- X
- Correo electrónico
- Otras apps