La IA empresarial entra en su fase aeronáutica

Creo que estamos empezando a mirar la inteligencia artificial de otra manera.

Durante mucho tiempo casi toda la conversación ha estado en el motor: qué modelo es más potente, cuál razona mejor, cuál cuesta menos, cuál hace más cosas y cuál sorprende más. Es lógico. Cuando aparece una tecnología nueva, lo primero que miramos es hasta dónde puede llegar.

Pero llega un momento en el que el motor deja de ser lo único importante.

Satya Nadella ha planteado estos días algo que me parece especialmente interesante: tratar el modelo como si pudiera estar comprometido, separar la inteligencia de la capa que le da permisos y autoridad, conservar registros comprensibles de lo que hace y mantener un «freno de emergencia» que permita detenerlo durante una tarea.

Y ahí es donde la comparación con la aviación me parece casi inevitable.

Nadie se subiría tranquilo a un avión solo porque supiera que lleva el motor más potente del mercado. También queremos cabina, control de tráfico, caja negra, procedimientos claros y alguien que pueda intervenir si algo se desvía.

En mi mundo, el audiovisual, esto se entiende muy rápido. Este verano vi un programa muy conocido en el que algunas entrevistas y determinadas acciones me resultaban demasiado parecidas a las de temporadas anteriores. Me llamó la atención, fui a comprobarlo y, efectivamente, había similitudes bastante claras.

Mi sensación fue que probablemente se había utilizado material previo como referencia para generar nuevas propuestas con IA. Puede que no fuera exactamente así, pero el resultado me hizo pensar en algo que sí me parece importante.

La IA puede ahorrar muchísimo tiempo y ayudarnos a no empezar siempre desde cero, pero si no hay alguien revisando con criterio también puede acelerar la repetición. En audiovisual eso es especialmente delicado, porque una cosa es aprovechar lo aprendido y otra muy distinta convertir la creatividad en una plantilla que simplemente cambia nombres, destinos y protagonistas.

Por eso creo que la gobernanza de IA no va solo de seguridad, permisos o cumplimiento. También va de criterio, de calidad y de decidir qué parte del trabajo queremos delegar y qué parte seguimos necesitando mirar con ojos humanos.

La aviación no se hizo segura construyendo motores menos potentes. Se hizo segura porque alrededor de esos motores se construyó todo un sistema de control.

Con la IA empresarial creo que va a pasar exactamente lo mismo. No basta con tener un motor espectacular. Hace falta cabina, caja negra, procedimientos de emergencia y personas capaces de distinguir entre una respuesta que simplemente funciona y una respuesta que realmente merece la pena.