REXFLOW

LLM по умолчанию ничего не помнит между запросами: каждый диалог начинается с чистого листа. NVIDIA и AWS показали готовый рецепт, как дать агентам долговременную память — связка NeMo Agent Toolkit (NAT) и Amazon S3 Vectors, развёрнутая в Kubernetes на Amazon EKS. Векторы живут прямо в S3, отдельная векторная база данных не нужна, а агенты накапливают контекст между сессиями.

Разберём, как это устроено и что это значит для автоматизации бизнеса.

Зачем агенту долговременная память

Любая языковая модель stateless: между запросами состояние не сохраняется. Для простого чат-бота это терпимо, но для агента, который работает с задачами дольше одного запроса, отсутствие памяти — блокер.

Без слоя памяти агент не может:

Стандартное решение этой проблемы — векторное хранилище в связке с RAG. Документы, факты и фрагменты диалогов превращаются в эмбеддинги — числовые представления смысла. При каждом новом запросе система ищет по этим векторам релевантный контекст и подаёт его модели. Так агент «вспоминает» то, что важно, без ручного управления историей.

Подробнее о том, как RAG встроен в эту архитектуру, — в разделе [Как связка NAT + S3 Vectors устроена технически](#nemo-s3-vectors).

Что такое NeMo Agent Toolkit

NVIDIA NeMo Agent Toolkit (NAT) — фреймворк для сборки мультиагентных систем. Это не одна модель, а набор инструментов: оркестрация агентов, интеграция с внешними системами, управление контекстом.

Ключевая для нашей темы часть — подсистема памяти с абстракцией memory provider. Это подключаемый бэкенд: тулкит определяет интерфейс, а конкретную реализацию хранилища вы выбираете сами. NAT умеет работать с разными бэкендами, и именно эта архитектура позволила AWS добавить новое хранилище без переписывания тулкита.

Для команд, которые строят агентов для бизнеса, такая модульность — практичное свойство: сменить провайдер памяти можно без переделки всей агентной логики.

Amazon S3 Vectors: векторы без отдельной базы

Amazon S3 Vectors — векторное хранение прямо внутри S3. Идея простая: векторы и индексы живут в том же бакете, что и обычные объекты — файлы, логи, датасеты.

Что это меняет на практике:

Для компаний, уже работающих в AWS, это заметное упрощение: память для бизнеса перестаёт требовать отдельного решения в стеке.

Как связка NAT + S3 Vectors устроена технически

Механика интеграции описывается в трёх шагах:

1. NAT предоставляет абстракцию memory provider — единый интерфейс записи и поиска контекста, через который подсистема памяти тулкита обращается к хранилищу.

2. S3 Vectors реализуется как кастомный memory provider. AWS написала провайдер, который переводит операции памяти NAT в операции с векторными индексами S3.

3. Агент получает долговременную память без дополнительной инфраструктуры. Никаких новых сервисов: S3 уже есть, тулкит уже есть — между ними появился мост.

Развёртывание демонстрировалось в Kubernetes на Amazon EKS — вся система работает как обычный контейнеризованный workload со всеми плюсами оркестрации: масштабированием, обновлениями, изоляцией окружений.

Поток данных при каждом запросе выглядит так: пользователь обращается к агенту → NAT извлекает релевантный контекст через memory provider → S3 Vectors возвращает ближайшие векторы → контекст попадает в промпт модели → новый опыт агента записывается обратно в память. Это классический RAG-цикл, встроенный в жизненный цикл агента.

Демонстрационный кейс: инвестиционные исследования

Чтобы показать подход в деле, NVIDIA и AWS собрали мультиагентную систему для инвестиционных исследований. Несколько агентов, каждый со своей ролью, работают над общей задачей — анализом активов и рынков.

Ключевой момент кейса — общая память. Агенты не просто обмениваются сообщениями внутри сессии: они делят накопленные знания между сессиями. Один агент нашёл и обработал данные — результат лёг в векторное хранилище — другой агент в следующей сессии подтянет этот контекст как релевантный.

Это ровно тот сценарий, где искусственный интеллект без памяти буксует: исследование — процесс многошаговый, растянутый во времени, с множеством промежуточных результатов, которые жалко терять при каждом новом запросе.

Что это значит для автоматизации бизнеса

Практический вывод из демонстрации: связка NAT + S3 Vectors снижает порог входа в агентные системы с памятью. Если ваша инфраструктура уже в AWS, отдельная векторная БД не обязательна — достаточно S3 и провайдера памяти внутри тулкита.

Где это применимо:

Подход NVIDIA для бизнеса здесь — не новая модель, а инженерная связка: готовый тулкит, готовое хранилище, минимальный клей между ними. Память агентов на векторах для бизнеса перестаёт быть отдельным архитектурным решением — она становится опцией внутри уже знакомого стека.

Ограничения и на что смотреть

Как у любого раннего подхода, здесь есть моменты, которые стоит проверять под свою нагрузку:

Кому стоит присмотреться

Связка NAT + S3 Vectors — не серебряная пуля, а конкретный инструмент с понятной нишей. Она интересна командам, которые уже собирают агентов в AWS и хотят память без отдельной базы данных.

Короткий чек-лист «вам подходит, если»:

Если хотя бы три пункта совпали — подход стоит проверить на пилоте. Порог входа низкий: провайдер памяти подключается к тулкиту, S3-бакет поднимается штатно, а демонстрационная архитектура с EKS описана в исходном материале AWS.

Долговременная память — то, что отличает агента от одноразового промпта. Теперь её можно собрать из двух готовых компонентов — и это само по себе новость для всех, кто строит агентные системы. Подробнее о том, где память агента приносит больше всего пользы, — в разделе [Что это значит для автоматизации бизнеса](#avtomatizaciya-biznesa).

Источник: https://aws.amazon.com/blogs/machine-learning/build-agent-memory-with-nvidia-nemo-agent-toolkit-and-amazon-s3-vectors