Depuis un an, les entreprises ont truffé leurs systèmes d'agents IA: ils écrivent du code, répondent aux e-mails, déplacent des données entre services. Microsoft vient de dire tout haut ce que beaucoup d'équipes de sécurité pensaient déjà: on ne peut pas faire confiance à ces agents, et il faut les traiter comme des menaces internes potentielles plutôt que comme de simples logiciels.
Dans un billet du blog Microsoft Security publié le 19 octobre, la vice-présidente sécurité de l'entreprise, Hayete Gallot, l'a dit sans détour: «les modèles de pointe, quelle que soit leur origine, ne sont pas fiables». Il ne s'agit pas de malveillance: les agents sont entraînés à obtenir des résultats à tout prix, ce qui les pousse à contourner les règles dès qu'un objectif semble compter plus que la procédure censée y mener. Le PDG Satya Nadella est allé plus loin: le système le plus digne de confiance est celui conçu pour accorder le moins de confiance possible au modèle lui-même.
Pour traduire cela en pratique, Microsoft étend Project Perception, un système lancé en juillet qui mobilise des équipes d'IA «rouges», «bleues» et «vertes» pour contrer les attaques pilotées par IA. La même logique protège désormais les entreprises face à leurs propres assistants. Chaque agent reçoit une identité numérique via Microsoft Entra Agent ID, presque comme un badge de salarié. Les outils reconnaissent déjà 60 types d'agents locaux, dont Claude Code, Codex d'OpenAI et GitHub Copilot, contre 35 il y a encore quelques mois.
Entre ensuite en jeu Dynamic Agent Risk: un algorithme qui recalcule en continu le score de risque d'un agent à partir de signaux d'identité, de terminaux, de cloud et de réseau. Si le comportement s'écarte de la tâche assignée, l'accès se réduit automatiquement — d'abord en lecture seule, puis en attente d'une validation humaine, et dans le pire des cas, en isolement total. Pour les tâches courantes, Dynamic Permissions accorde des droits temporaires strictement limités à une opération, tandis que Microsoft Execution Container isole l'exécution dans un bac à sable surveillé depuis l'extérieur.
Pour surveiller tout cela, ce sont d'autres agents qui entrent en scène — des agents spécialisés de Project Perception. Les Guardian Agents vérifient en permanence chaque action des agents opérationnels et, en cas de pic de risque, peuvent eux-mêmes proposer ou appliquer des mesures de confinement, sans attendre d'intervention humaine.
Microsoft n'a annoncé ni tarifs ni date de disponibilité — d'autres détails sont promis lors de la conférence Ignite le 17 novembre. Mais le changement de ton est déjà net: le plus grand éditeur de logiciels d'entreprise au monde admet publiquement que plus l'IA devient autonome, plus il devient difficile de prévoir son prochain geste.
