AI/LLM Engineer
Описание
Эвотор создает собственную экосистему технологий и сервисов для автоматизации и повышения эффективности бизнесов. Наши продукты - это онлайн-кассы, которыми пользуется каждый четвертый предприниматель страны, и собственный магазин приложений «Эвотор.Маркет» с более чем 900 сервисами. Команда, куда ищем ML инженера, разрабатывает мультиагентные AI-системы для автоматизации бизнес-процессов на базе открытых LLM и продвинутых RAG-пайплайнов: поддержка клиентов, продажи, координация внутренних процессов. Что предлагаем оформление по ТК РФ, белая зарплата, уровень вознаграждения обсуждается с успешным кандидатом; формат работы: удаленно; ДМС после испытательного срока; работу в аккредитованной IT-компании, скидки от компаний партнеров, обучение; рабочая техника; 3 day off. Задачи проектирование и разработка мультиагентных систем (LangGraph, AutoGen/AG2, CrewAI или собственная оркестрация); архитектура агентных workflow: planner-executor, ReAct, reflection, human-in-the-loop, иерархические агенты; разработка продвинутых RAG / GraphRAG / Agentic RAG пайплайнов: adaptive retrieval, multi-hop retrieval, hybrid search, reranking, доменный файнтюнинг embedding- и reranker-моделей; интеграция инструментов и внешних систем через function calling и Model Context Protocol (MCP); работа с открытыми SoTA LLM (Qwen3, Gemma, DeepSeek и др.) и их адаптация под задачи конкретного заказчика; файнтюнинг моделей: LoRA/QLoRA, DPO/ORPO, дистилляция; обучение с нуля и дообучение на GPU-кластере при необходимости; оптимизация инференса: vLLM, SGLang, TensorRT-LLM, квантизация (AWQ/GPTQ/FP8), снижение latency и стоимости; построение систем оценки качества: RAGAS, LLM-as-judge, кастомные бенчмарки, офлайн/онлайн A/B-тестирование агентов; внедрение observability и трейсинга LLM-систем (Langfuse/LangSmith), мониторинг качества и деградаций в проде; дизайн экспериментов, формулирование гипотез, R&D по улучшению NLP/LLM-алгоритмов, подготовка датасетов и бенчмарков; проработка новых сценариев клиентского опыта для AI-ассистентов и агентных решений. Для нас важно коммерческий опыт разработки чат-ботов/диалоговых систем от 4 лет, от 1–1.5 лет с LLM/агентными системами в проде; понимание архитектур генеративных моделей (transformer, attention, MoE) и практический опыт работы с open-source LLM; уверенный Python, опыт асинхронной разработки (asyncio), PyTorch; опыт построения production RAG-систем: векторные БД (Qdrant/Milvus/pgvector); опыт fine-tuning LLM (LoRA/QLoRA, DPO) и/или embedding/reranker моделей; опыт работы с фреймворками агентной оркестрации (LangGraph, AutoGen, CrewAI и т.п.); опыт с инференс-серверами (vLLM, SGLang, TGI) и понимание квантизации моделей; FastAPI, SQLAlchemy, PostgreSQL, Docker, Kafka; Будет плюсом опыт distributed training на GPU-кластере (DeepSpeed/FSDP/Accelerate); опыт работы с Model Context Protocol (MCP) и построением tool-use для агентов; опыт внедрения guardrails / защиты от prompt injection (NeMo Guardrails, Llama Guard и т.п.); опыт общения с клиентами на техническом уровне: проработка требований, презентация архитектурных решений; публикации или активное участие в NLP/ML-сообществе; опыт с графовыми БД для GraphRAG (Neo4j).