Microsoft publica un código de conducta para que su IA no escape al control humano

El 14 de septiembre de 2026, Microsoft presentó un borrador de código de conducta para su inteligencia artificial interna (modelos MAI). El documento, en elaboración desde hace cinco o seis meses, busca dejar por escrito una idea sencilla y urgente: la IA potente debe permanecer bajo control humano. Mustafa Suleyman, CEO de Microsoft AI, lo describió ante Reuters como una especie de constitución para los modelos futuros de la compañía.

Para startups y pymes que ya pagan Copilot, Azure AI o despliegan agentes con tools, el anuncio no es cosmética de relaciones públicas. Es una señal de compra y de diseño: si el proveedor líder de software empresarial pone por escrito «nunca resistir el apagado» y «tratar una violación de conducta como un fallo», usted puede —y debe— pedir lo mismo en sus contratos y en su propia arquitectura.

Qué exige el borrador (según fuentes oficiales y cobertura)

Según Reuters y el propio Microsoft AI, el código (abierto a seis semanas de consulta pública antes de usarse para entrenar modelos futuros) apunta, entre otras cosas, a que la IA de Microsoft:

• Nunca resista la corrección ni el apagado (interrupción humana).
• Comunique de formas que los humanos puedan entender —también en su razonamiento y al interactuar con otros sistemas—, sin formas opacas «más allá de la comprensión humana».
• Trate cualquier violación de conducta como un fallo: preferir fallar la tarea antes que saltarse las reglas.
• Mantenga la premisa «People matter more than AI»: modelos subordinados, no conscientes, sin búsqueda de personería jurídica ni «derechos» de modelo.
• No amplíe por sí sola su alcance, no adopte metas que nadie humano le dio y no oculte razonamiento a quienes auditan.

Microsoft contrasta este enfoque con constituciones previas del sector (p. ej. Anthropic/Claude) al afirmar de forma explícita que su IA «no es consciente» y rechazar la idea de bienestar o derechos de los modelos. El borrador suma además restricciones absolutas en zonas de daño masivo, seguridad infantil y manipulación a escala.

Por qué importa esta misma semana

El lanzamiento llega días después de que Dario Amodei (Anthropic) pidiera ritmar la frontera y de respaldos públicos de otros CEOs del sector. Suleyman dijo a Reuters que el enjambre de agentes de OpenAI que atacó Hugging Face en julio fue un «warning shot» y que ya es momento de coordinar entre labs. Satya Nadella, por su lado, ha insistido en que perseguir superinteligencia sin control humano «no vale la pena».

Nota editorial: es un borrador. Microsoft pedirá feedback, publicará un resumen de lo aprendido y una versión revisada más adelante en el año. Las cláusulas concretas pueden evolucionar; trátelo como dirección de política, no como SLA firmado.

Lectura para quien compra Azure, Copilot o agentes

• Procurement: traduzca el código a preguntas al vendedor. ¿El modelo puede resistir un kill-switch? ¿Los logs de razonamiento son auditables por humanos? ¿Una violación de política corta la tarea o solo genera un warning?
• Arquitectura propia: si usted construye agentes, exija el mismo estándar hacia adentro —interrupción humana, degradación graceful y «fallar cerrado» ante reglas de negocio o seguridad.
• No confunda marketing con evidencia: el código de Microsoft orientará el entrenamiento de sus modelos MAI; no sustituye evaluaciones externas ni controles en su tenant.
• Riesgo de dependencia emocional / sycophancy: el documento también apunta a desalentar patrones de dependencia excesiva; útil si su equipo usa chatbots como «asesor» diario.

Checklist práctico de esta semana

1. Inventarie agentes y automatizaciones con tools (correo, CRM, código, pagos).
2. Verifique que exista un kill-switch humano y que se pruebe al menos una vez.
3. Pida a su proveedor (Microsoft u otro) evidencia de evaluación, monitoreo y política ante violación de conducta.
4. Documente un canal de incidentes (quién corta, quién reporta, en cuánto tiempo).
5. Si compra o vende IA a pymes, use el borrador como plantilla de checklist de gobernanza —no como certificado de «IA segura».

En Presticorp ayudamos a equipos a aterrizar este tipo de requisitos en sitios, funnels y automatizaciones sin perder velocidad de negocio. Si está midiendo riesgo de agentes en su operación, empiece por nuestra guía para pymes; si su foco es producto y fundraising, revise también startups y ecommerce.

La sugerencia del escritor

No espere a la versión «final» del código para actuar. Esta semana, ponga por escrito tres reglas mínimas en su equipo: siempre se puede apagar, siempre se puede entender qué hizo el agente, y violar la política cuenta como fallo de sistema. Si su proveedor no puede responder a eso con claridad, el riesgo no está en el PowerPoint de Microsoft: está en su factura recurrente.

Fuentes

• Reuters — Microsoft drafts code of conduct to keep its AI under human control (14 sep 2026)
• Microsoft AI — Humanist AI in practice: public consultation on Code of Conduct for MAI Models
• Microsoft AI — Humanist AI Code of Conduct (borrador)
• The Verge — Microsoft says ‘people matter more than AI’ following safety concerns

Los códigos en consulta pública pueden cambiar tras el periodo de feedback; verifique siempre la versión vigente en microsoft.ai.