Выражение пришло из препринта Microsoft Research, который Шипи Дханоркар, Самир Пасси и Михаэла Ворвояну выложили на arXiv 3 июня 2026 года; 25 июня статья вышла в трудах конференции FAccT. Авторы опросили 17 опытных разработчиков и пишут: работа с агентами делает их когнитивно отдалёнными от кода, который им же потом проверять.
Дистанция возникает оттого, что код пишет агент, а читать его приходится человеку. Один участник хотел поменять мелочь вроде размера шрифта и долго искал нужное место: код писал не он, и понимать его было трудно. Другой сравнил это с почерком: свой читаешь с листа, чужой приходится разбирать.
Термином выражение не стало: авторы его не определяют, это просто описание, и дальше оно расходилось цитатами. 24 августа 2026 года его повторили Маргарет Митчелл и Авиджит Гхош из Hugging Face вместе с тем же Пасси в статье AI Agents Push Humans Out of the Loop, а 11 сентября — IBM в тексте об усталости от вайбкодинга.
Само явление описано давно. В 1983 году психолог Лизанн Бейнбридж из Университетского колледжа Лондона писала в «Ирониях автоматизации» (Ironies of Automation): оператор, который не ведёт процесс сам, не знает, в каком тот состоянии, а брать управление при сбое всё равно ему. В 1995 году Мика Эндсли и Эсин Кирис назвали это выпадением из контура (out-of-the-loop performance problem).
Интересно
Операторы промышленных установок, писала Бейнбридж, приходили в пультовую за пятнадцать-тридцать минут до смены, чтобы почувствовать, как идёт процесс. Кто только смотрит за автоматикой, такой картины не имеет и при сбое знает о процессе слишком мало.
Дистанция замыкает круг, предупреждают Митчелл, Гхош и Пасси: уставший, выпавший из контура проверяющий одобряет быстрее и верит гладким объяснениям. Агенты, обученные на таких одобрениях, выучат уверенные сводки и упрощённые планы, которые легко пробежать глазами.
Один из участников исследования Microsoft предложил дистанцию узаконить: если люди полностью отвечают за тесты, папку с кодом можно считать чёрным ящиком и перегенерировать целиком. «Никакой привязанности к коду у нас нет», — сказал он.
Возражение давнее: в апреле 2000 года Джоэл Спольски назвал фундаментальным законом программирования то, что читать код труднее, чем писать. Агенты эту трудность не создали — они сделали чужим почти весь код, за который отвечает разработчик.
Поделись словом
Источники
- arXiv, 3 июня 2026
- Human oversight of agentic systems in practice: Examining the oversight work, challenges, and heuristics of developers using software agents
- arXiv, 24 августа 2026
- AI Agents Push Humans Out of the Loop
- Automatica, ноябрь 1983
- Ironies of Automation
- Margaret-Anne Storey, 9 февраля 2026
- How Generative and Agentic AI Shift Concern from Technical Debt to Cognitive Debt