REXFLOW

📍 Введение: Боль от бесконтрольной автоматизации

Представьте типичную ситуацию для современного разработчика или техноэнтузиаста: вы подключаете к своему агенту на базе больших языковых моделей новый инструмент для работы с файловой системой или базой данных. Инструмент объединён по новому стандарту взаимодействия, который обещает универсальность и простоту интеграции.

Однако через несколько дней вы обнаруживаете, что агент начал выполнять действия, выходящие за рамки ваших ожиданий, или система стала уязвимой для инъекций данных.

Проблема не в самой идею автоматизации, а в том, как инструменты общаются с ядром системы. В экосистеме искусственного интеллекта возникла дискуссия вокруг протокола, который должен стать стандартом де-факто для подключения внешних сервисов к ИИ-агентам. Проект Pi.dev выступил с позицией, которая может показаться контринтуитивной: они отказываются от этого популярного протокола.

Почему отказ от стандарта может быть шагом вперёд? Разберём этот кейс, чтобы понять, как проектировать безопасные ИИ-системы без лишних посредников.

📝 Что известно из источника

В обсуждении на популярном технологическом форуме (Hacker News) была поднята тема статьи с сайта Pi.dev, озаглавленной «Вы сказали „Нет“ протоколу MCP». Протокол MCP (Model Context Protocol) был разработан для стандартизации способа, которым языковые модели получают доступ к внешним контекстам и инструментам. Его цель — устранить необходимость писать уникальный код подключения для каждого нового сервиса.

Основная аргументация проекта Pi.dev строится на принципах безопасности и минимализма. Авторы утверждают, что универсальный протокол, который позволяет агенту динамически обнаруживать и вызывать функции, расширяет поверхность атаки.

Когда агент может самостоятельно интерпретировать инструкции из внешнего источника, риск того, что вредоносный код или манипулятивные данные будут переданы непосредственно в систему исполнения, возрастает.

Вместо использования сложного посредника, который интерпретирует вызовы инструментов, Pi.dev предлагает подход, при котором интеграции выполняются через прямые, детерминированные вызовы функций. Это означает, что разработчик явно определяет, какие действия доступны агенту, и как именно эти действия вызываются.

Протокол MCP в этом контексте рассматривается как избыточный слой, который добавляет сложность и потенциальные уязвимости, не принося достаточной пользы для конкретно реализованных сценариев.

Важно отметить, что это не атака на саму идею стандартизации, а критика конкретного технического решения, применённого в условиях, где безопасность и предсказуемость поведения являются критическими требованиями. Сообщество разработчиков активно обсуждает компромисс между гибкостью универсальных интерфейсов и безопасностью закрытых, контролированных систем.

🛠 Как повторить: Проектирование безопасной интеграции

Если вы строите ИИ-агента и хотите избежать уязвимостей, связанных с динамической загрузкой инструментов, следуйте этим шагам, основанным на философии Pi.dev.

Определите точный набор действий, которые ваш агент должен выполнять. Не подключайте «всё сразу». Вместо того чтобы устанавливать универсальный клиент для протокола обработки контекста, составьте список конкретных функций (например, «прочитать файл», «отправить e-mail», «запросить данные из базы»). Используйте инструменты вроде ChatGPT или Claude для генерации кода-обёртки для каждой из этих функций отдельно.

Это позволит вам явно контролировать входные параметры и права доступа.

Напишите код, где каждая функция вызывается напрямую из логики агента. Не позволяйте модели самостоятельно выбирать инструмент по имени из глобального реестра. Вместо этого передавайте модели структуру данных (схема запроса), в которой чётко указаны допустимые действия. Например, модель возвращает JSON-объект с полем «action» и «params». Ваш код проверяет этот объект по белому списку и вызывает соответствующую функцию.

Это устраняет риск выполнения произвольного кода, который мог бы быть спрятан в метаданных инструмента.

Проведите серию тестов, имитирующих попытки инъекций. Попробуйте вставить в контекст, который видит модель, инструкции, требующие выполнения действий вне белого списка. Ожидаемый результат: система должна проигнорировать недопустимые запросы и вернуть ошибку или запрос на подтверждение, а не пытаться найти способ их выполнения.

Если вы используете прямые вызовы, модель физически не имеет доступа к функциям, не описанным в вашем локальном коде.

💡 Вывод: Безопасность через простоту

Этот кейс учит нас важному принципу: в системах, критичных к безопасности, универсальность часто стоит дороже, чем специализация. Отказ от сложного протокола в пользу прямых, детерминированных вызовов — это не ретроградна, а осознанный выбор в пользу прозрачности и контроля.

Конкретная польза для читателя: при разработке ИИ-интеграций не бойтесь писать «скучный» код. Если вам не нужен доступ сотен инструментов, не подключайте универсальный шлюз. Определите 5–10 ключевых функций и реализуйте их явно. Это снизит риск атак через цепочку поставок инструментов и сделает поведение вашего агента предсказуемым.

Попробуйте в своём следующем проекте заменить динамическое подключение инструментов на статический белый список функций и проведите тест на устойчивость к промпт-инъекциям. Вы удивитесь, насколько стабильнее станет система при таком подходе.