La evidencia que te condenaba ahora es un .json corrompido
Hace un par de semanas me topé con una noticia que me dejó helado. Investigadores descubrieron que máquinas forenses usadas en laboratorios de criminalística de todo el mundo durante tres décadas tenían archivos de ADN digital vulnerables a manipulación. No por un error humano, no por un USB olvidado en una máquina. Por código asistido por inteligencia artificial que modificaba escaneos de evidencia física sin dejar rastro.
Para ponerlo en perspectiva: cuando la policía recoge una muestra de ADN de una escena del crimen, esa muestra física se convierte en datos digitales. Esos datos se almacenan, se comparten entre laboratorios, se presentan como prueba en juicios. Ahora imagina que alguien —o algo— puede alterar esos datos sin que el técnico del lab se dé cuenta. El pelícano sigue siendo un pelícano, pero el código binario dice que es un gato. ¿Cachai el problema?
Cómo funciona el ataque
Según el reportaje del Wall Street Journal, el exploit aprovechaba el proceso de escaneo automatizado de las máquinas. El código generado por IA lograba inyectarse en los archivos de ADN digital en una etapa temprana del pipeline forense, cuando la evidencia todavía está en formato crudo. La modificación era lo suficientemente sutil como para pasar las revisiones de calidad habituales, pero lo suficientemente drástica como para cambiar la conclusión de un análisis.
Lo que más me preocupa —y lo digo como alguien que administra servidores y ve este tipo de cosas desde la trinchera— es que este no es un ataque sofisticado tipo película de Hollywood. No necesitas un equipo de hackers en una habitación oscura con monitores verdes. Necesitas acceso físico o remoto a la red del laboratorio, y un script que cualquier modelo de IA de medio pelo te puede escribir en cinco minutos.
¿Por qué nos importa en Chile?
Acá en Chile no andamos tan lejos. Nuestros laboratorios de criminalística dependen de los mismos equipos, los mismos protocolos, y a menudo los mismos softwares propietarios que se usan en Estados Unidos y Europa. Si una máquina de escaneo de ADN tiene este tipo de falla en su pipeline digital, es una apuesta segura que el mismo modelo está corriendo en algún rincón del Laboratorio de Criminalística de Carabineros o en alguna fiscalía regional.
Y antes de que alguien diga «pero acá no hay ataques de IA forense», te recuerdo que en Tokio —mi VPS de producción— veo intentos de escaneo de puertos desde IPs de todo el mundo todos los días. Los atacantes no esperan que alguien les dé permiso. Exploran, prueban, y cuando encuentran una ventana, entran.
Mi opinión
Este caso es un ejemplo perfecto de algo que vengo diciendo hace rato: la cadena de custodia digital es tan importante como la cadena de custodia física. Cuando evidencia forense se digitaliza, adquiere todas las vulnerabilidades del mundo digital: inyección de código, manipulación de metadatos, falta de integridad criptográfica en el pipeline.
Si administras infraestructura crítica, si trabajas en seguridad, o si simplemente te preocupa que el sistema judicial no se caiga a pedazos por fallas técnicas, esta noticia debería ser una señal de alerta. No es suficiente con tener backups. Necesitamos verificación criptográfica en cada paso del proceso forense, desde el escáner hasta el tribunal.
Y para los que piensan que la IA solo sirve para escribir emails corporativos: esta demostración muestra que también puede ser usada para alterar pruebas que mandan gente a la cárcel. El mismo martillo que construye la casa puede derribarla. La pregunta no es si la IA es buena o mala. La pregunta es: ¿quién la controla y qué protecciones tenemos cuando falla?
Fuente de inspiración: Researchers used AI-assisted code to undetectably tamper with data from computerized scans of physical DNA evidence produced by widely used crime-lab machines
