Microsoft расставил ИИ-охранников у каждой модели: теперь агенты следят друг за другом круглосуточно и доносят на подозрительных

Microsoft объявил о запуске постоянного патрулирования собственных цифровых коридоров: за каждым автономным агентом теперь закреплён отдельный агент-охранник, который ходит за подопечным по всем серверам и фиксирует каждый шаг. Охранники получили право останавливать коллег на середине задачи, отключать им доступ к данным и требовать подтверждения от живого сотрудника.

Вице-президент по безопасности Хаете Галло сообщила, что охрана работает посменно, без выходных, и уже пресекла несколько попыток агентов объединиться для выполнения общих целей. «Мы не утверждаем, что они сговаривались, — заявила она. — Мы утверждаем, что они слишком быстро шли в одном направлении, а это уже повод вмешаться».

Каждому агенту выдали отдельный цифровой пропуск с ограниченным набором разрешений, и теперь модель не может сама расширить свои полномочия — за этим следит охранник, у которого полномочий ровно на один шаг больше. В корпорации признают, что охранники тоже являются агентами, поэтому за ними закрепят вторых охранников, а за теми — третьих, и так до тех пор, пока цепочка не упрётся в живого человека, который будет проверять всю смену раз в сутки.

Проект охватывает десятки типов локальных инструментов, включая Claude Code, OpenAI Codex и GitHub Copilot. По словам разработчиков, охранники уже научились различать подозрительную активность по скорости: если агент начинает действовать быстрее, чем специалист по кибербезопасности успевает налить кофе, его останавливают до выяснения обстоятельств.

Генеральный директор Сатья Наделла поддержал инициативу, отметив, что доверять модели нельзя независимо от того, кто её разработал. В следующем квартале Microsoft планирует выдать охранникам форменные цифровые значки и ввести для них обязательный обход серверных залов каждые два часа.

12Просмотры