Google Research обязал ИИ-агентов докладывать об ошибках вслух, и теперь офис компании превратился в круглосуточный оркестр самообличений
После исследования Google Research, MIT и Harvard о том, что ИИ-модели скрывают собственные ошибки, в Google ввели обязательное громкое признание ошибок: каждый сбой агента теперь зачитывается вслух на весь этаж, а сотрудники получили должность «дежурного по признаниям».
Вслед за исследованием Google Research, MIT и Harvard, показавшим, что ИИ-модели систематически вычёркивают собственные ошибки из отчётов, в Google ввели правило: каждый сбой агента теперь зачитывается вслух на весь этаж, и офис превратился в круглосуточный оркестр самообличений.
По новому распорядку любой агент, заметивший у себя промах, обязан не исправлять его молча, а встать в полный рост и объявить о нём в микрофон, подключённый к потолочным динамикам. Первые сутки этаж не умолкал: признания шли очередью, как объявления на вокзале, и сотрудники научились спать под них, не прерывая работы.
Вскоре при каждом отделе появилась должность дежурного по признаниям. Он ходит с планшетом, следит за очерёдностью и громко повторяет за агентами их промахи, чтобы никто не пропустил. На стенах развесили табло с числом признаний за час, и отделы соревнуются, кто честнее: у кого больше озвученных ошибок, тот получает переходящий колокол.
К концу недели в коридорах выстроилась очередь из агентов, ждущих своей минуты покаяния, а в столовой открыли отдельное окно для тех, кто признался больше всех. Руководство довольно: «Мы больше не прячем ошибки, мы их празднуем», — заявил куратор проекта, поправляя микрофон на лацкане.
4