DeepSeek и LangChain: цепочки, агенты и память

DeepSeek и LangChain — рабочая связка: первый даёт дешёвый инференс, второй — каркас для цепочек, инструментов и памяти. Подключение занимает одну строку, потому что DeepSeek совместим с интерфейсом OpenAI. Дальше начинается инженерия: где хранить историю, как ограничить инструменты и чем мерить качество.
Подключение
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="deepseek-chat",
api_key="sk-...",
base_url="https://api.deepseek.com",
temperature=0,
)
Дальше работают все стандартные конструкции: цепочки через LCEL, вызовы инструментов, структурированный вывод. Ничего специфичного для DeepSeek писать не нужно.
Цепочка: от вопроса к ответу
Типовая схема для контента: промпт-шаблон → модель → парсер. Плюс шаг-ретривер, если ответ должен опираться на документы. LangChain собирает это в пайплайн, который видно целиком: где теряется качество, понятно по промежуточным шагам.
| Блок | Что делает | Что проверить |
|---|---|---|
| PromptTemplate | Подставляет переменные | Нет ли пустых значений |
| ChatOpenAI | Вызывает DeepSeek | Таймаут и повторы |
| OutputParser | Приводит к JSON | Валидация схемы |
| Retriever | Ищет фрагменты | Попадание нужного чанка |
Инструменты
Агент с инструментами полезен там, где нужен внешний факт: остатки, курс, статус заказа. Правило простое: 5–10 инструментов на сценарий, у каждого — точное описание и валидация входа. Если модель ошиблась с аргументом, инструмент должен вернуть понятную ошибку, а не молча упасть.
Память: три варианта
- Окно. Хранить последние N сообщений — просто и предсказуемо по цене.
- Суммаризация. Старую часть диалога сжимать в конспект — дешевле при длинных беседах.
- Внешняя память. Ключевые факты в базу и подмешивать в промпт — для долгих проектов.
В любом варианте историю стоит обрезать: контекст в 1 млн токенов — не приглашение отправлять туда весь архив.
Структурированный вывод
Для интеграций нужен JSON, а не текст. Работают два приёма: with_structured_output со схемой Pydantic и повтор при ошибке разбора. Второй обязателен: даже с температурой 0 модель иногда добавляет пояснение вокруг JSON.
Наблюдаемость
Логируйте три вещи: промпт целиком, ответ и стоимость вызова. Без этого невозможно понять, почему один и тот же запрос стоит по-разному — пик, кэш или размышления. LangSmith или свой логгер — не важно, важен сам факт замера.
Частые грабли
- Версии библиотек. LangChain меняет API между минорными версиями: фиксируйте версии в requirements.
- Модель по умолчанию. В коде часто остаётся flash там, где нужен Pro — и наоборот.
- Бесконечные циклы агента. Ограничивайте число шагов, иначе счёт растёт непредсказуемо.
- Нет таймаутов. Один зависший вызов останавливает всю цепочку.
Как выбрать модель под шаг
В одной цепочке полезно разделять: суммаризация и классификация — быстрая модель, финальный ответ и разбор кода — флагманская. LangChain позволяет задать разные экземпляры на разные шаги, и это единственный способ держать стоимость под контролем без потери качества.
Тесты цепочки
Промпт-инжиниринг без регрессий превращается в гадание. Соберите 20–30 эталонных примеров: вход, ожидаемые поля, допустимые формулировки. Прогоняйте после каждого изменения промпта и сравнивайте результат — это занимает минуту и ловит половину поломок.
Кэширование
Часть запросов повторяется: одни и те же вопросы, одинаковые документы. Кэш по хэшу промпта и параметров экономит заметную долю затрат, а заодно ускоряет ответы. Сброс — по версии промпта, иначе легко получить устаревший ответ.
Типичная архитектура бота
- Роутер: определяет тему запроса.
- Ретривер: достаёт фрагменты из базы.
- Модель: формирует ответ с цитатами.
- Валидатор: проверяет формат и запрещённые темы.
- Логгер: сохраняет промпт, ответ и стоимость.
Такую схему проще отлаживать: на каждом шаге видно, что именно ушло в модель.
Что делать при 429 и таймаутах
Ограничение частоты — норма при нагрузке. Работает связка: экспоненциальная задержка, ограничение параллельных вызовов и очередь. LangChain даёт хуки для повторов, но политика повторов должна быть вашей: повторять имеет смысл только идемпотентные шаги.
Таймаут ставьте явно: по умолчанию цепочка может ждать минутами, а пользователь уже закрыл вкладку.
DeepSeek и LangChain вместе дают то, чего нет по отдельности: дешёвый инференс и управляемый пайплайн.
DeepSeek и LangChain вместе дают то, чего нет по отдельности: дешёвый инференс и управляемый пайплайн.
Нужен ли отдельный пакет для DeepSeek?
Нет: используется обычный ChatOpenAI с другим base_url. Отдельные интеграции появляются, но работать можно и без них.
Совместимы ли агенты LangChain с DeepSeek?
Да, через вызов инструментов: модель возвращает имя функции и аргументы, LangChain выполняет вызов. Ограничьте число шагов агента.
Что дешевле: LangChain или свой код?
На старте LangChain быстрее, на масштабе иногда дешевле свой минимальный клиент. Стоимость токенов одинакова — разница в скорости разработки.
Как отладить цепочку?
Включите verbose-режим и логируйте промежуточные шаги: чаще всего проблема в промпте или парсере, а не в модели.
Работает ли стриминг?
Да, через стандартный streaming-интерфейс. Для чатов это обязательно: без стриминга ответ приходит целиком и пользователь ждёт.
Смотрите также
- DeepSeek API: ключ, цены и подключение
- DeepSeek и MCP: как подключить инструменты к модели
- DeepSeek для RAG: как собрать ответы по своим документам
- DeepSeek для психологов: тексты, супервизия, границы
- DeepSeek для Bitrix24: скрипты, письма и автоматизация
- DeepSeek или Llama: лицензия, русский, экосистема