DeepSeek и LangChain: цепочки, агенты и память

DeepSeek и LangChain: цепочки, агенты и память

DeepSeek и LangChain — рабочая связка: первый даёт дешёвый инференс, второй — каркас для цепочек, инструментов и памяти. Подключение занимает одну строку, потому что DeepSeek совместим с интерфейсом OpenAI. Дальше начинается инженерия: где хранить историю, как ограничить инструменты и чем мерить качество.

Подключение

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-chat",
    api_key="sk-...",
    base_url="https://api.deepseek.com",
    temperature=0,
)

Дальше работают все стандартные конструкции: цепочки через LCEL, вызовы инструментов, структурированный вывод. Ничего специфичного для DeepSeek писать не нужно.

Цепочка: от вопроса к ответу

Типовая схема для контента: промпт-шаблон → модель → парсер. Плюс шаг-ретривер, если ответ должен опираться на документы. LangChain собирает это в пайплайн, который видно целиком: где теряется качество, понятно по промежуточным шагам.

Блок Что делает Что проверить
PromptTemplate Подставляет переменные Нет ли пустых значений
ChatOpenAI Вызывает DeepSeek Таймаут и повторы
OutputParser Приводит к JSON Валидация схемы
Retriever Ищет фрагменты Попадание нужного чанка

Инструменты

Агент с инструментами полезен там, где нужен внешний факт: остатки, курс, статус заказа. Правило простое: 5–10 инструментов на сценарий, у каждого — точное описание и валидация входа. Если модель ошиблась с аргументом, инструмент должен вернуть понятную ошибку, а не молча упасть.

Память: три варианта

  • Окно. Хранить последние N сообщений — просто и предсказуемо по цене.
  • Суммаризация. Старую часть диалога сжимать в конспект — дешевле при длинных беседах.
  • Внешняя память. Ключевые факты в базу и подмешивать в промпт — для долгих проектов.

В любом варианте историю стоит обрезать: контекст в 1 млн токенов — не приглашение отправлять туда весь архив.

Структурированный вывод

Для интеграций нужен JSON, а не текст. Работают два приёма: with_structured_output со схемой Pydantic и повтор при ошибке разбора. Второй обязателен: даже с температурой 0 модель иногда добавляет пояснение вокруг JSON.

Наблюдаемость

Логируйте три вещи: промпт целиком, ответ и стоимость вызова. Без этого невозможно понять, почему один и тот же запрос стоит по-разному — пик, кэш или размышления. LangSmith или свой логгер — не важно, важен сам факт замера.

Частые грабли

  1. Версии библиотек. LangChain меняет API между минорными версиями: фиксируйте версии в requirements.
  2. Модель по умолчанию. В коде часто остаётся flash там, где нужен Pro — и наоборот.
  3. Бесконечные циклы агента. Ограничивайте число шагов, иначе счёт растёт непредсказуемо.
  4. Нет таймаутов. Один зависший вызов останавливает всю цепочку.

Как выбрать модель под шаг

В одной цепочке полезно разделять: суммаризация и классификация — быстрая модель, финальный ответ и разбор кода — флагманская. LangChain позволяет задать разные экземпляры на разные шаги, и это единственный способ держать стоимость под контролем без потери качества.

Тесты цепочки

Промпт-инжиниринг без регрессий превращается в гадание. Соберите 20–30 эталонных примеров: вход, ожидаемые поля, допустимые формулировки. Прогоняйте после каждого изменения промпта и сравнивайте результат — это занимает минуту и ловит половину поломок.

Кэширование

Часть запросов повторяется: одни и те же вопросы, одинаковые документы. Кэш по хэшу промпта и параметров экономит заметную долю затрат, а заодно ускоряет ответы. Сброс — по версии промпта, иначе легко получить устаревший ответ.

Типичная архитектура бота

  1. Роутер: определяет тему запроса.
  2. Ретривер: достаёт фрагменты из базы.
  3. Модель: формирует ответ с цитатами.
  4. Валидатор: проверяет формат и запрещённые темы.
  5. Логгер: сохраняет промпт, ответ и стоимость.

Такую схему проще отлаживать: на каждом шаге видно, что именно ушло в модель.

Что делать при 429 и таймаутах

Ограничение частоты — норма при нагрузке. Работает связка: экспоненциальная задержка, ограничение параллельных вызовов и очередь. LangChain даёт хуки для повторов, но политика повторов должна быть вашей: повторять имеет смысл только идемпотентные шаги.

Таймаут ставьте явно: по умолчанию цепочка может ждать минутами, а пользователь уже закрыл вкладку.

DeepSeek и LangChain вместе дают то, чего нет по отдельности: дешёвый инференс и управляемый пайплайн.

DeepSeek и LangChain вместе дают то, чего нет по отдельности: дешёвый инференс и управляемый пайплайн.

Нужен ли отдельный пакет для DeepSeek?

Нет: используется обычный ChatOpenAI с другим base_url. Отдельные интеграции появляются, но работать можно и без них.

Совместимы ли агенты LangChain с DeepSeek?

Да, через вызов инструментов: модель возвращает имя функции и аргументы, LangChain выполняет вызов. Ограничьте число шагов агента.

Что дешевле: LangChain или свой код?

На старте LangChain быстрее, на масштабе иногда дешевле свой минимальный клиент. Стоимость токенов одинакова — разница в скорости разработки.

Как отладить цепочку?

Включите verbose-режим и логируйте промежуточные шаги: чаще всего проблема в промпте или парсере, а не в модели.

Работает ли стриминг?

Да, через стандартный streaming-интерфейс. Для чатов это обязательно: без стриминга ответ приходит целиком и пользователь ждёт.

Смотрите также