La gobernanza de IA empieza cuando puede demostrarse con números

Hay algo de lo que se habla mucho en inteligencia artificial y que siempre me deja un poco frío: “tenemos controles”, “la seguridad es una prioridad”, “nuestros sistemas están supervisados”.

Muy bien.

Pero después de muchos años dirigiendo empresas, hay una cosa que tengo bastante clara: cuando algo importa de verdad, tarde o temprano termina en una cifra.

Por eso me ha llamado la atención lo que acaba de publicar Anthropic.

La compañía dice que, a agosto de 2026, Claude «lidera» el 26% de su trabajo medido de I+D en inteligencia artificial, y que la parte de ese trabajo en el nivel «la IA colabora», o por encima, está por encima del 90%. También habla de unos 30.000 agentes de investigación e ingeniería activos a la vez en su plataforma interna más utilizada. Esas cifras cubren solo esa plataforma.

Son números de la propia compañía y todavía no sirven para comparar con otros laboratorios. Tampoco son un estándar ni un indicador universal de buena gobernanza. Pero hay otra parte que me parece mucho más interesante: Anthropic asegura que el 100% de las acciones de esos agentes pasa por el monitor en línea antes de ejecutarse, y que ese monitor bloqueó el 0,002% de más de mil millones de decisiones analizadas. Además, sitúa alrededor del 6% el cómputo de I+D en IA dedicado a seguridad durante la semana examinada.

Y ahí, sinceramente, creo que empieza la gobernanza de verdad.

Porque decir que la seguridad importa está bien, pero si soy consejero quiero saber cuánto se automatiza, cuánto se supervisa, cuántas decisiones se bloquean, cuánto tarda alguien en intervenir y qué recursos se están dedicando realmente a controlar el riesgo.

Eso no es desconfiar de la tecnología. Es gestionar.

En una empresa nadie aceptaría que el director financiero dijera simplemente “la caja está controlada” y se fuera tan tranquilo. Pediríamos cifras, desviaciones, previsiones y explicaciones. Tampoco nos bastaría con que alguien de ciberseguridad dijera “estamos bastante seguros” sin enseñar incidentes, tiempos de respuesta o vulnerabilidades.

Con la inteligencia artificial creo que vamos exactamente hacia ahí.

Y no solo en OpenAI, Anthropic o Google. También en nuestras empresas.

Dentro de poco, un Consejo debería poder preguntar cuántos agentes están activos, qué porcentaje de procesos ejecutan, qué acciones requieren aprobación humana, cuántas se bloquean, cuánto cuesta supervisarlas y qué criterio obliga a detener un sistema.

Ese día habremos avanzado bastante.

Porque quizá la gran diferencia entre decir que tienes gobernanza de IA y tenerla de verdad sea muy sencilla: