El director ejecutivo de Microsoft, Satya Nadella, pidió el 10 de octubre de 2026 asumir que todo modelo de inteligencia artificial está comprometido y contenerlo desde el arranque, con un freno de emergencia que permita a una persona autorizada pausarlo a mitad de tarea.
The Verge reportó que Nadella publicó su postura en una entrada extensa en X, donde sostuvo que ya no es aceptable tratar a la inteligencia artificial como una serie de cajas negras anidadas cuyas recomendaciones y acciones se aceptan o rechazan sin más. El planteamiento llega en un momento en que las principales empresas del sector reconocen episodios en los que parecieron perder el control de sus modelos, y después de que el director ejecutivo de Anthropic, Dario Amodei, publicara su propio plan para un desarrollo más cauteloso, de acuerdo con TechCrunch. Para las empresas mexicanas que ya adoptan herramientas de inteligencia artificial, el debate sobre auditoría y contención define qué garantías pueden exigir a sus proveedores y qué evidencia deben conservar de las decisiones automatizadas.
En su texto, Nadella enumeró varios componentes. Entre ellos: separar el modelo del sistema que orquesta su trabajo, externalizar los controles y salvaguardas, y documentar cada acción relevante del modelo con evidencia legible por humanos a prueba de manipulación. También pidió divulgación oportuna de incidentes, auditorías independientes y datos verificables, puntos que coinciden con recomendaciones de otros actores del sector. The Verge señaló que en el apartado de contención el directivo va un poco más lejos que otras voces del campo, al plantear que los modelos más avanzados exigirán tecnologías de contención que la industria todavía necesita estandarizar. A lo largo del texto, Nadella usó el término superinteligencia para referirse a estos sistemas.
El siguiente paso que plantea Nadella es estandarizar esas tecnologías de contención y convertir la evidencia auditable en un requisito de facto para los modelos avanzados. Por ahora no hay acuerdos públicos entre los desarrolladores ni criterios compartidos de auditoría, y la discusión sigue abierta entre las empresas que construyen los modelos, sus clientes corporativos y los reguladores.
Esta nota fue redactada con asistencia de inteligencia artificial a partir de fuentes verificadas y revisada por un editor humano antes de publicarse.
