La IA ya no puede seguir sin controles
Hace un tiempo que venía mirando con desconfianza cómo las empresas de inteligencia artificial crecen como setas después de lluvia, sin ningún tipo de fiscalización real. Pero ahora Illinois, el estado donde está Chicago, acaba de firmar una ley que obliga a las compañías líderes de IA a pasar auditorías de seguridad anuales hechas por terceros independientes.
La ley se llama SB 315 y la firmó el gobernador JB Pritzker. La idea es simple: si eres una empresa con más de 500 millones de dólares en ingresos y entrenas modelos gigantes, tenés que publicar un marco de transparencia que explique cómo medís las capacidades del modelo, qué riesgos catastróficos detectás y cómo respondés a incidentes de seguridad.
Y lo más interesante: OpenAI y Anthropic apoyaron la ley. Eso no pasa todos los días. Normalmente las big tech se dedican a lobbear en contra de cualquier regulación, pero acá hasta ellos ven que la falta de reglas claras les puede volver en contra.
¿Por qué me importa esto desde Chile?
Acá en Chile todavía estamos a años luz de tener algo parecido. Mientras en Estados Unidos ya discuten auditorías de terceros, acá ni siquiera hay un marco claro de protección de datos que funcione de verdad. Pero me parece buena señal porque esto puede convertirse en estándar nacional. La ley está basada en legislaciones previas de Nueva York y California, y busca llenar el vacío federal.
Como ingeniero de sistemas, lo que más me preocupa de la IA no es que nos reemplace en la pega, es que nadie sepa realmente qué está haciendo el modelo adentro. Que haya auditorías externas me parece un paso sano, aunque sigo escéptico de que las empresas no intenten maquillar los resultados.
La oposición que queda
TechNet, el lobby de ejecutivos tecnológicos, sigue en contra de la parte de auditorías obligatorias. Dicen que es muy costoso y que frena la innovación. Yo cacho que es pura cuestión de plata: prefieren invertir en marketing que en demostrar que sus modelos no explotan.
En fin, me parece que esto es un precedente importante. Si los modelos más capaces del mundo empiezan a tener controles reales, tal vez el resto de la industria baja un poco el ritmo desenfrenado y empieza a pensar en seguridad antes de lanzar cualquier wea al mercado.
Fuente de inspiración: Illinois Governor JB Pritzker signs SB 315, a bill requiring annual third-party safety audits of leading AI companies
