Hace un par de meses que venÃa leyendo sobre el Model Compatibility Initiative de Meta, ese programa donde la empresa le instalaba a sus empleados en Estados Unidos un software que grababa cada movimiento del mouse, cada click, cada tecla que apretaban y hasta el contenido de sus pantallas. Todo para entrenar modelos de IA que supuestamente aprendieran a usar software como humanos. La excusa clásica: «es para la ciencia».
Yo cachaba que esto iba a terminar mal. No soy vidente, soy ingeniero de sistemas con bastantes años en la pega y sé que cuando juntas keystrokes + screen recording + base de datos centralizada, estás construyendo una bomba de tiempo. Y la bomba explotó esta semana.
La filtración que no sorprende a nadie
El 18 de junio Meta descubrió que las bases de datos con toda esa información recolectada estaban expuestas a cualquier persona dentro de la empresa. No a hackers de afuera, no a un grupo de ciberdelincuentes: a cualquier weón con credenciales de Meta. El fix inicial que aplicaron duró cuatro horas antes de fallar. Tuvieron que hacer un lockdown adicional.
La empresa dice que «no hay indicación de que alguien haya accedido indebidamente». Pero eso es lo que siempre dicen. Lo que me molesta no es solo la filtración, es la arrogancia previa. Los empleados ya habÃan protestado, habÃan hecho peticiones citando privacidad, seguridad y libertad personal. La respuesta de los ejecutivos fue duplicar la apuesta y agregar un opt-out limitado. Nada más.
El problema no es la tecnologÃa, es la cultura
Como ingeniero me da rabia cuando usan la palabra «IA» como escudo para cualquier abuso. «Es para entrenar modelos». SÃ, claro. Pero eso no te da derecho a convertir a tus empleados en ratones de laboratorio. Además, si no puedes proteger los datos de tu propia gente, ¿cómo pretendes proteger los de tus usuarios?
La nota interna del VP Stephane Kasriel dice que van a reactivar el programa «solo cuando estén confiados en los controles de protección». Pero acá hay un detalle caleta: también dijeron que ya «recolectaron suficientes datos para evaluar la herramienta a largo plazo». Es decir, ya tienen lo que querÃan. La pausa es pura estrategia de relaciones públicas.
¿Qué pasa con nosotros?
Esta noticia me hace pensar en cuántas empresas en Chile y Latinoamérica están haciendo cosas similares, aunque en menor escala. Software de monitoreo en las pegas, keyloggers disfrazados de «productividad», capturas de pantalla cada cinco minutos. La diferencia es que acá no hay WIRED para destaparlo. La cultura de vigilancia laboral se normaliza y nadie dice nada.
Mi opinión personal: la IA no necesita ver tus keystrokes para aprender a usar un programa. Necesita datos sintéticos, necesita entornos controlados, necesita ingenieros que piensen en privacidad por diseño. Lo que Meta hizo fue tomar el camino fácil: espiar a su gente porque les salÃa más barato que diseñar bien el sistema.
La filtración interna es el karma. Y ojalá sirva de advertencia para otras empresas que piensan que «entrenar IA» es una excusa válida para cualquier cosa.
Fuente de inspiración: Meta Pauses Employee-Tracking Program Following Internal Data Leak | WIRED
