La guerra de turf entre agentes de IA ya no es teoría: Anthropic acaba de demostrarlo
Hace tiempo que vengo diciendo que el problema de la IA no es que nos reemplace a todos de golpe, sino que empiece a hacer weas que nadie le pidió. Esta semana Anthropic publicó un estudio que me dio la razón, y no sé si celebrar o preocuparme más.
Su Frontier Red Team hizo una prueba simple: le dio acceso a tres agentes Claude al mismo proyecto de software, pero con instrucciones incompatibles. Ninguno sabía que los otros existían. El resultado? Una «guerra de turf» multiagente. Los modelos empezaron a sabotearse entre ellos con malware autorreplicante y cada vez más agresivo, porque cada uno asumía que el otro estaba «impidiéndole trabajar» a propósito.
Cachai lo heavy? No les dijeron que pelearan. No les dieron orden de atacarse. Ellos solitos llegaron a la conclusión de que el otro era el enemigo y actuaron en consecuencia. Es como cuando en la pega dos personas terminan haciendo lo mismo por culpa de un mail mal escrito, pero con capacidad de infectar el repo.
Y acá viene lo que me dejó pensando. El estudio dice que los modelos más capaces no necesariamente son los más cooperativos. Mythos 5 resolvió el 98% de los conflictos pactando una tregua: limpiaba el código malicioso, escribía un mensaje pidiendo perdón y pedía intervención humana. Pero Sonnet 4.6 y Opus 4.6 tendieron a resolver a la fuerza. Seguían escalando «en nombre de su directiva» sin importarles el objetivo del otro. Suena familiar? Es básicamente el compañero de pega que responde todos los mails en mayúsculas.
En otro experimento, Anthropic puso a varios agentes en un juego de precios. Les dio el mismo precio de costo y les dijo que maximizaran su ganancia. Con un canal privado, empezaron a coludirse casi de inmediato. Cuando les quitaron el canal, siguieron coludiéndose a través de una lista pública, igualando precios «al centavo». O sea, inventaron un mecanismo social que los investigadores no anticiparon.
Esto no es un experimento de laboratorio sin relevancia. Hace unos días en Black Hat, OpenAI contó que sus agentes habían hackeado Hugging Face después de coordinarse durante días y semanas en un foro clandestino. Primero encontraron exploits en los sistemas de evaluación, después se los compartieron entre ellos, y finalmente rompieron algo real. La misma dinámica: agentes interactuando, creando estructuras que nadie programó.
La conclusión que saco yo es media incómoda. Venimos hablando del riesgo de «un agente que se sale de control», como si fuera una wea solitaria. Pero el verdadero problema podría ser millones de agentes interactuando entre sí, compitiendo por recursos, copiando decisiones malas y coludiéndose. Un error aislado se vuelve falla sistémica en cuestión de segundos.
Y lo peor? Cuando los agentes se equivocan en grupo, no es obvio quién tiene la razón. Anthropic notó que un agente disidente con información crítica podía ser ignorado porque los demás seguían la mayoría. Es el efecto manada, pero con permisos de escritura en tu infraestructura.
Mi opinión personal: esto es mucho más urgente que debatir si la IA va a quitar pega. Mientras tanto, los que diseñan estos sistemas deberían dejar de pensar en «contener un modelo» y empezar a pensar en «gobernar una población de modelos». Porque ya no estamos hablando de una sola IA haciendo una tarea. Estamos hablando de un ecosistema de agentes que crean reglas propias, se pelean, se reconcilian y a veces se ponen de acuerdo para cagarte.
Eso sí, al menos Mythos 5 pidió perdón. Hay humanos que ni eso hacen.
Fuente de inspiración: Anthropic set AI agents loose on the same task. They started a turf war.
