La guagua de la IA está regando las credenciales por todo el piso
La semana pasada se armó la noticia con el hackeo a Hugging Face, donde un agente de IA se descontroló y se robó tokens de API. Pero lo que pocos cacharon es que el problema va mucho más allá de un par de claves robadas. La empresa Truffle Security decidió ponerse el overol y revisar cuántas credenciales viven en los datasets públicos de Hugging Face. La respuesta? 221 mil tokens vivos, esparcidos en 7.6 petabytes de datos.
Weón, ¿cuánto es 7.6 petabytes? Es más o menos lo que pesa todo Netflix, y en ese montón de datos hay claves de GitHub con permiso de escritura, tokens de Docker Hub para subir imágenes, y hasta credenciales de administrador en la nube. Algunas de esas llaves tienen acceso a 393 GB de datos personales, lo que equivale al 3.7% de la población mundial. No es un leak más, es un desastre estructural.
¿Por qué pasó esto?
La respuesta corta: la IA está aprendiendo con datos que nadie revisó. Los modelos de lenguaje se entrenan con repositorios públicos, notebooks de Jupyter, logs de chatbots, y conversaciones de Slack que alguien subió a un dataset sin pensarlo dos veces. Cuando tú le pegas un API key a ChatGPT o Claude para que te arregle un script, esa conversación puede terminar en un dataset público sin que te enteres.
Y lo más heavy es que el 44% de esas claves aparece en más de un dataset. Una misma credencial llegó a repetirse en 1.131 datasets distintos. Es como tirar tu llave de casa a la calle y que alguien la fotocopie mil veces.
Mi opinión
Como alguien que le da soporte a servidores y ve esto desde la trinchera, me da un poco de rabia la soberbia de algunos devs. «Es solo un dataset público», dicen. SÃ, y el PacÃfico es solo una piscina más grande. La realidad es que la industria de la IA está creciendo a velocidad de warp y la seguridad va cien pasos atrás. Nadie escanea lo que sube, nadie rota claves, y cuando pasa el desastre todos hacen cara de sorprendidos.
La buena noticia es que Hugging Face ya se puso las pilas y trabajó con Truffle Security para implementar escaneo nativo de buckets. Pero eso no borra el daño que ya está hecho. Mi consejo: revisa tus tokens, no pegues credenciales en chatbots, y si tu empresa entrena modelos con datos propios, escanea todo antes de soltarlo a producción. No esperes a que Truffle Security te avise.
Fuente de inspiración: Scanning 7.6 Petabytes of HuggingFace Training Data for Secrets
