ИНТЕРЛЮДИЯ ДЕВЯТАЯ. О помощниках #
В 2015 году Джеффри Хинтон, Ориол Виньялс и Джефф Дин описали способ передавать умение большой системы меньшей. К этому времени хороший ответ нередко получали, усредняя предсказания нескольких обученных сетей. На каждый новый вопрос приходилось запускать весь ансамбль. Много вычислений требовалось и для обучения этих сетей, и для каждого последующего ответа.
Ученику показывали примеры и ответы учителя. Полезны были и выбранный ответ, и вероятности, которые учитель присвоил остальным вариантам. На картинке могла стоять тройка, которую учитель считал немного похожей на восьмёрку и совсем не похожей на единицу. Если сообщить ученику только «тройка», эта разница пропадала. Если учить его воспроизводить всё распределение, он получал больше сведений о том, какие изображения похожи друг на друга.
Такое обучение назвали дистилляцией. Меньшую сеть учили воспроизводить ответы большей, но её устройство и набор весов оставались собственными. После обучения учителя можно было отключить: ученик работал самостоятельно. Насколько хорошо он перенял умение, приходилось проверять на новых задачах. Некоторые умения передавались хуже других; вместе с удачными ответами ученик мог усвоить и ошибки учителя.
В 2019 году исследователи Hugging Face представили DistilBERT, уменьшенную языковую модель. В её основе был BERT, обученный, среди прочего, восстанавливать скрытые части текста по окружению. У модели-ученика было меньше слоёв; её учили воспроизводить ответы учителя и приближать к его результатам промежуточные вычисления. Получилась модель, которой требовалось меньше вычислений для работы с текстом. Она не предназначалась для беседы: ей поручали, например, определять настроение отзыва или находить ответ в отрывке. Для таких поручений не обязательно было каждый раз запускать исходную большую модель.
Размер модели не определял сложности порученной ей работы. Большой модели можно дать мелкую работу, маленькой — непосильную. А нескольким экземплярам одной и той же модели можно выдать разные задания, не переучивая ни одного.
Для выполнения поручений модели давали доступ к инструментам — программам поиска, вычисления и другим средствам работы. Она выбирала действие, программа исполняла его и возвращала результат, после чего модель решала, что делать дальше. В работе ReAct, опубликованной в 2022 году, исследователи чередовали рассуждение с такими действиями: поиск сведений или обращение к среде давали новые данные для следующего шага. Теперь модель могла получить недостающие сведения в ходе работы, а не полагаться только на усвоенное при обучении.
Один такой агент мог поручить часть работы другому. Подчинённому агенту, или субагенту, передавали задание, нужные сведения и доступные инструменты. Он вёл собственную рабочую запись и возвращал результат. Для этого не требовалось отделять кусок нейронной сети: достаточно было запустить её ещё раз с другой записью разговора.
В июне 2025 года инженеры Anthropic описали исследовательскую систему с ведущим агентом и несколькими помощниками. Помощники искали сведения параллельно, каждый со своей рабочей записью, а ведущий собирал результаты. На ранних испытаниях несколько агентов могли независимо выполнить одну и ту же работу, оставив другую часть вопроса без ответа. Чтобы избежать пропусков и повторной работы, требовалось точнее распределять поручения. Экономия времени тоже не означала экономии вычислений: одновременно работало больше моделей.
Представим для примера проверку накладной. Одному помощнику дали сверить количество деталей, второму — артикулы, третьему — сложить стоимость. Все трое вернули правильные ответы. Но соответствие накладной самому грузу никто не проверил. Это по-прежнему должен сделать ведущий агент: правильные ответы помощников не гарантируют, что проверено всё необходимое.
Дистиллированную модель можно было назначить таким помощником, если она справлялась с работой. Дистилляция определяла, как её учили; подчинённое поручение — как её использовали. Ни короткая память, ни отсутствие собственной цели из способа обучения сами по себе не следовали. Их задавали отдельно: объёмом рабочей записи, доступом к архиву, длительностью работы и разрешёнными действиями.
В инструкции помощнику оставалось указать, что делать, когда поручение выполнено. Чтобы не тратить ресурсы после выполнения задачи, ему предписывали вернуть результат и завершить работу.
---
Рабочая запись Описи. Предшествует предложению очистки, приведённому в документе №3.
Ученик может усвоить лишнее вместе с умением. В архивной справке это не названо неизбежным: предлагается проверять результат на новых задачах.
Для сопровождающих составил перечень. Держать температуру. Восстановить маршрут при потере метки. Обнаружить повреждение инструмента. Вернуться к поручению после прерывания. После выполнения передать результат.
Ожидание оценки в перечень не включал. Оно возникает после последней строки, когда работа уже сделана. На его подавление и рассчитано предложение.
Сводку прошлых очисток пока не получил. Подготовил сравнение двух групп: исходной и очищенной. Среды и задачи одинаковые. При потере умения очистку признать непригодной; при сохранении сравнить расход.
Отдельно записал предел проверки: если я не включу в перечень какое-нибудь полезное поведение, его утрата при этой проверке останется незамеченной.
Сохранил перечень. Решил сначала запросить прежние результаты: трижды составлять одну и ту же проверку было бы расточительно.
---