La semana pasada me pasó algo incómodo. Un servidor de mi flota amaneció con la carga por el suelo y mi primer instinto no fue abrir el terminal: fue revisar la conversación del agente de guardia, que llevaba veinte minutos «trabajando» en el tema. Al final el problema lo rematé yo, a mano, y me quedó la pregunta que no quiero responder rápido: ¿cuánto de eso lo habrÃa resuelto solo hace dos años? La respuesta honesta es incómoda de escribir.
Por ahà va justo el artÃculo de SigNoz que anda dando vueltas esta semana: la IA no está reemplazando a los que operan sistemas, los está deskilleando. Y lo mejor del argumento es que no es para nada nuevo: tiene más de cuarenta años. En 1983, Lisanne Bainbridge publicó Ironies of Automation, un paper que salió de las fábricas y que hoy aplica casi letra por letra a los servidores. La paradoja: cuanto más automatizas un proceso, más crÃtica se vuelve la intervención humana en las rarezas, y menos práctica tiene el humano para intervenir en exactamente esas mismas rarezas. La automatización que sacaba al operador del loop lo dejaba con el peor trabajo posible: horas pasivas de monitoreo interrumpidas por crisis raras para las que ya no tenÃa músculo.
El músculo se atrofia sin que lo sientas
La evidencia de otros campos es dura. Un estudio publicado en The Lancet siguió a endoscopistas que usaban IA para detectar pólipos: su tasa de detección sin ayuda de la máquina cayó de 28% a 22% tras un periodo de uso. No olvidaron la teorÃa; dejaron de ejercitarla. En aviación pasa parecido: pilotos de vuelos largos que viven pegados al piloto automático muestran degradación medible en la habilidad manual, y la reacción de la FAA fue obligar acumular más horas de vuelo a pura mano.
El detalle peligroso es que no se siente. La IA hace que todo se sienta fácil, los dashboards están verdes y el output se ve impecable; la investigación cognitiva muestra que en ese estado uno es pésimo juzgando su propia habilidad real. Y de a poco dejas de leer logs crudos porque la IA los resume, dejas de armar hipótesis porque la IA sugiere la causa raÃz, dejas de tener el mapa mental del sistema porque la IA lo dibuja. Cada decisión aislada parece una ganancia de productividad. El conjunto, no.
Para los que entran recién al rubro hay un término nuevo que me parece el más honesto del artÃculo: never-skilling. No es que perdieras una habilidad, es que nunca la desarrollaste. Si el 95% de la rutina de incidentes la maneja un agente desde tu primer dÃa de pega, ¿dónde construyes exactamente la intuición para el 5% que en realidad importa? Ese pipeline de entrenamiento está roto, y no es auto-reparable.
Ineficiencia deliberada
La solución que propone el artÃculo me gustó porque se puede aplicar desde hoy: ineficiencia deliberada. Si la aviación obliga horas de vuelo manual aunque el piloto automático vuela mejor que la mayorÃa, uno puede reservarse casos de práctica aunque el agente los resolverÃa solo. En mi caso la regla quedó simple: la rutina (parches, reinicios, monitoreo, el grueso de las noches) es del agente; pero la primera pasada de diagnóstico de un incidente grave es mÃa. Leer el log crudo, armar mi hipótesis, recién después validar contra lo que diga la IA. Cuesta minutos, y es gimnasia.
Trabajo con sistemas donde el 5% puede salir caro, y esa es exactamente la parte que nadie está entrenando mientras mira resúmenes. Si administras servidores o escribes el software que los opera, la pregunta no es si la IA te va a reemplazar: es qué hiciste tú esta semana que la máquina no pudo hacer por ti. Yo llevo la cuenta de la mÃa desde ahora.
La discusión completa, con el paper de Bainbridge y los estudios citados, la puedes leer en AI Isn’t Replacing SREs. It’s Deskilling Them., del newsletter de SigNoz.
Fuente de inspiración: AI Isn’t Replacing SREs. It’s Deskilling Them. (SigNoz Observability Real Talk)
