Backend-разработчик Python (LLM-агенты)
Описание
О продукте. ИСКРА — корпоративный ИИ-ассистент: агенты, работающие с задачами и документами компании, RAG, интеграции с внешними системами (Bitrix24, GitLab, 1С, n8n). Свой продукт, небольшая команда. Инференс на собственных open-source моделях, без внешних LLM-API. Стек. Python 3.11, FastAPI, asyncpg, PostgreSQL 16 + pgvector, Redis, Kafka, LangChain / LangGraph, Pydantic v2. Вебклиент отдельный: NestJS + Next.js, TypeScript. Обязанности: Проектировать и поднимать новых агентов под предметную область заказчика: промпт, набор инструментов, мультиагентные сценарии. Расширять инструментарий агентов: новые tool calls, изолированное исполнение кода, выгрузка результатов файлами, поиск по документам. Повышать качество ответов и делать их проверяемыми: автоматическая оценка по трейсам, ссылки на источники, эвалы поиска. Интегрировать внешние системы: Bitrix24, 1С, медицинские информационные системы и справочники, инкрементальная синхронизация данных, инструменты агентов поверх них. Развивать бизнес-логику продукта: задачи, проекты, отделы, чаты, уведомления, файлы, отчёты руководителю, с проектированием контракта API под фронтенд. Участвовать в платформенных изменениях: Kafka, инференс через LiteLLM/vLLM, безопасность API, CI/CD. Требования: Python в бэкенде, уверенный asyncio. Архитектурное мышление: разделение ответственности между слоями, проектирование API и схемы данных, умение обосновать решение. Активная разработка с нейросетями не менее 2 лет: LLM-агенты в проде, LangGraph или аналог, tool calling, промпты. PostgreSQL без ORM: SQL, миграции, индексы, план запроса. Работа через MR с ревью и тестами (pytest). Самостоятельно разбираетесь в чужом коде по документации и логам. Плюсом будут: TypeScript (NestJS / Next.js), pgvector, vLLM / LiteLLM, Docker, GitLab CI, LangSmith. Как работаем. Небольшая команда, опытный тимлид. Feature-ветки, MR, ревью, спеки в репозитории. Выкатку на прод делает тимлид. Гарантируем: Стабильную и белую заработную плату. Поддержку и ДМС.