Cuando la IA no sabe que la estan mintiendo
Hay una investigacion de Trellner que me dejo pensando toda la manana. Tres sitios web — worldmetrics.org, gitnux.org y wifitalents.com — crearon 215,128 paginas de «best software» para 380 categorias distintas. No hay 215 mil categorias de software en el mundo real. Las paginas existen para una cosa: que los motores de IA las recuperen cuando alguien pregunta que herramienta comprar.
Y funciono. Perplexity cito esos sitios en sus respuestas. El estudio analizo 7,534 citas y encontro que el 59.8% de las fuentes apuntan a dominios fuera del top 100,000 mas visitados. La IA esta construyendo sus recomendaciones sobre sitios que ningun humano visita.
Las paginas no son para ti, son para la maquina
Lo mas freak es que los sitios literalmente se declaran como paginas para modelos. El titulo HTML dice «Facts & Grounding Page» — «grounding» es el termino tecnico para cuando un modelo recupera documentos para fundamentar una respuesta. No es un termino que un comprador usaria. Es un mensaje directo al crawler de la IA.
Wikipedia cito tres veces. Tres.
En 7,534 citas, Wikipedia aparecio tres veces. Mientras tanto, guideflow.com — una empresa que vende demos de productos — fue citada 194 veces en 96 categorias. Sus paginas de blog ocupan el tercer lugar como fuente de evidencia, por delante de Gartner.
Los tres sitios fabricados comparten infraestructura: mismos nameservers de Cloudflare, misma plantilla. Fueron registrados entre diciembre 2023 y mayo 2024. Cada uno tiene un blog de seis posts que hablan de los otros dos sitios del grupo. Es un ring de enlaces cruzados disenado para que la IA los vea como fuentes legitimas.
Casos que dan risa y dan susto
Perplexity recomendo dryad.co como homepage de Dryad, un repositorio de datos de investigacion. El dominio real es datadryad.org. dryad.co redirige a un portal de apuestas online indonesia que se llama «BIGSLOT288». En otra categoria recomendo montecarlo.com como homepage de Monte Carlo Data — una empresa de observabilidad. Ese dominio redirige al hotel Societe des Bains de Mer de Montecarlo. Monaco, no machine learning.
Mi lectura
Esto no es un bug pasajero. Es el nuevo SEO. Durante anos optimizamos para Google. Ahora hay que optimizar para que la IA te cite. Y como la IA todavia no distingue bien entre un sitio real y una fabrica de paginas, el incentivo es crear miles de paginas con la palabra «best» y esperar que el crawler las trague.
La diferencia con el SEO clasico es que Google al menos tenia pagerank y media autoridad real. Estos modelos estan haciendo retrieval sobre un indice que cualquiera puede contaminar con dos cuentas de Cloudflare y un script que genera URLs. Y lo peor: Perplexity muestra las citas como si fueran validacion. El usuario ve una fuente y piensa que esta respaldado. No sabe que la fuente es una pagina creada hace tres meses por la misma persona que creo las otras 70 mil.
Si eres de los que usa IA para decidir que herramienta comprar, que VPN contratar, que antivirus instalar — ten cuidado. La IA no esta mintiendo, pero esta citando a quien si lo esta haciendo.
Que hacer mientras tanto
Cuando una IA te recomiende un producto, verifica la fuente. Si la cita apunta a un sitio que no conoces, entra y mira si tiene autores reales, si tiene historial, si tiene contenido que no sea un listado de «best X software». Si todo el sitio es listas generadas, desconfia.
El estudio dejo los datos abiertos en CC BY 4.0. Todo el dataset, cada cita, cada recomendacion. Para los que les gusta cacharrear con datos, es un archivo brutal para entender como funciona el retrieval de IA por dentro.
Fuente de inspiración: Three sites made 215,128 best software pages for AI. Perplexity cites them | Trellner Research
