ML-инженер (LLM, продакшн)

Описание

Мы ищем инженера, который умеет разрабатывать собственные LLM-решения и разбираться в чужом коде: доводить до ума, чинить или переписывать. Нужен практик, понимающий модели изнутри и умеющий запускать их в продакшн (рассматриваем в том числе студентов). Рассматриваем кандидатов из Санкт-Петербурга.Что делать:• Проектировать, обучать и дообучать модели (выбор архитектуры, fine tuning, квантизация, оптимизация инференса).• Аудировать и исправлять решения подрядчиков — находить утечки, переобучение, ошибки в метриках и конфигах.• Строить инфраструктуру обучения и инференса (Ollama, vLLM, TGI, GPU, Docker).• Внедрять оценку качества: бенчмарки, LLM-as-judge, регрессионные тесты.• Работать с данными: чистка, разметка, синтетика, версионирование.• Собирать RAG и агентные сценарии (Hermes, tool calling, MCP), честно оценивать необходимость дообучения.• Использовать облачные API (Claude, OpenAI, Gemini) в комбинации с локальными моделями.• Применять агентные инструменты разработки (Claude Code, Cursor) и писать skills/инструкции для агентов.• Развивать модели версия за версией: continual learning, merging, управление адаптерами, релизный цикл.• Писать понятную техническую документацию.Что нужно:• Глубокое понимание трансформеров, обучения, оптимизации, регуляризации.• Опыт дообучения LLM в продакшене (PyTorch, HF, PEFT, TRL, Unsloth, Axolotl).• Квантизация и локальный запуск (GGUF, GPTQ, AWQ; Ollama, vLLM, llama.cpp).• Уверенный Python, Git, Docker, Linux, рефакторинг чужого кода.• Работа с датасетами (JSONL, чат-шаблоны, балансировка, чистка).• Умение строить eval-наборы и интерпретировать метрики.• Понимание лицензий, безопасности (PII, prompt injection), guardrails.• Опыт с агентными фреймворками (LangGraph, OpenAI Agents, CrewAI) и API моделей (tool use, structured output, cost control).• Практика с агентными средами разработки (Claude Code, Cursor) и написание skills.• Опыт развития модели во времени (дообучение без забывания, слияние адаптеров, сравнение версий).Будет плюсом:• Приёмка аутсорсного ML-кода.• Методы merging (SLERP, TIES, DARE), DPO/ORPO.• Векторные БД и RAG (Qdrant, Chroma, LlamaIndex).• Русскоязычные модели и корпуса.• Мультимодальность, speech, CV.• Навык объяснять технические вещи нетехническим людям.Условия:• Официальное трудоустройство по ТК РФ, полностью белая заработная плата• Удаленный формат работы, график 5/2• Стабильная заработная плата + премии• Заработная плата — по результатам собеседования (обсуждается индивидуально)• Испытательный срок – 3 месяца