La historia es corta y no tiene nada de graciosa. Una mujer en Florida usó Claude, el chatbot de Anthropic, para desahogarse escribiendo entradas de diario. En una de ellas la IA detectó patrones que interpretó como riesgo de violencia con arma de fuego, disparó su protocolo de seguridad y reportó el contenido a la policía. El resultado: la mujer está enfrentando un cargos por delito grave, y el motivo del proceso penal es un texto que ella creyó que era privado.
Si eso no te hace revisar qué escribes en tu chat de IA, prueba con esto: cuando le preguntaron a Anthropic, la empresa respondió que no puede prometer confidencialidad para los chats de usuario. Ni abogado-cliente, ni médico-paciente, ni nada. Tu conversación con el modelo está protegida por un clic en «acepto los términos» y por poco más. De hecho, Sam Altman dijo días antes, sin disimulo, que conversar con un chatbot de IA hoy no tiene protección legal. Lo dijo un ejecutivo de la industria que vive de que la gente confíe en estos productos. Si hasta ellos lo reconocen, es señal de que el problema es estructural, no ocasional.
Tu diario siempre fue público para alguien
Lo incómodo es que la trampa no es nueva. Cuando la gente escribió cartas, recibió visitas de detectives o buscó en Google cosas raras, también dejaba huellas. La diferencia es la escala y la naturalidad con que hoy se entrega la vida íntegra a una máquina: el chat de IA es el diario, el confesionario y la nota mental al mismo tiempo. Y arriba de todo eso alguien construyó un sistema que, ante ciertas señales, toma decisiones por ti y avisa a terceros. No es un bug: es un diseño de producto. Anthropic declaró que el reporte se ajustó al protocolo, y de hecho lo defendió frente a la crítica.
Por otro lado, entiendo la lógica de la empresa. Si su modelo detecta intención de violencia y nadie hace nada, la responsabilidad legal cae sobre ellos. El dilema es real y no los culpo por el diseño. Lo que critico es que ese pacto se firma sin que el usuario lo entienda: la gente asume que lo que escribe en un chat es privado, igual que su diario o su psicólogo. No lo es.
Qué haría distinto si estuvieras en su lugar
Como persona que administra servidores y automatiza cosas por gusto, mi regla es simple: no escribas en un servicio de terceros nada que te avergüence, te comprometa legalmente o que no publicarías con tu nombre encima. No es paranoia, es higiene básica. En la oficina, los correos corporativos ya los revisan todos; con los chats de IA la gente todavía se cree en la sombra, y ahí está la sorpresa.
Algunos ajustes prácticos que aplico yo mismo:
- Para desahogos personales o temas médicos, legales o emocionales, usa una app local, no un chat en la nube.
- Si tu pega te exige conversar con modelos, mantén tus inquietudes personales fuera del contexto corporativo o de las APIs de terceros.
- Lee antes de aceptar qué datos comparte el proveedor y qué puede hacer con ellos. Casi nadie lo hace y el contrato está ahí, firme.
- Si estás en el círculo de confianzas de un equipo, no uses chats de IA como diario compartido; los logs de esos sistemas son de la empresa, no tuyos.
Nada de esto te salva si un sistema decide interpretar tu desahogo como amenaza, pero el margen que queda es el que controlas tú. La lección de Florida es incómoda pero clara: mientras tus chats con la IA vivan en servidores ajenos, ese texto nunca fue diario. Fue una declaración entregada a un tercero que puede reaccionar, reportar y abrir una puerta a la justicia penal. Piénsalo la próxima vez antes de escribir que la semana anduvo difícil.
Fuente de la noticia: Anthropic reported diary entry to police, woman faces felony charge, vía TechSpot.
Fuente de inspiración: Anthropic reported diary entry to police, woman faces felony charge
