Middle+ Machine Learning Engineer (ML Infrastructure & Highload)
Описание
Мы строим высоконагруженные ML-системы для обеспечения банковской безопасности. Наш фокус — антифрод, управление рисками, обнаружение аномалий и оптимизация бизнес-процессов и тд. Ищем MLE грейда Middle+ с сильной инженерной базой. Ключевая задача — внедрение и адаптация высокопроизводительных runtime-шаблонов для инференса моделей, автоматизация процессов деплоя и оптимизация Time-to-Market при выводе ML/DL и LLM в промышленную эксплуатацию. Обязанности • развертывание и поставка моделей: Упаковка, деплой и поддержка runtime-шаблонов для быстрого вывода моделей в прод на основе готовых архитектурных решений Оптимизация инференса (ML Serving): • обеспечение требуемого уровня latency и пропускной способности для классического ML (LightGBM, CatBoost и тд) и нейросетей • конфигурирование и поддержка инференс-серверов (Triton Inference Server, vLLM и тд) Интеграция и оптимизация LLM: • вывод в продакшен LLM-агентов и RAG-систем с использованием готовых фреймворков • настройка производительных движков (vLLM, TGI) с применением базовых техник оптимизации (квантование, continuous batching) • реализация механизмов кэширования и фильтрации запросов (Guardrails) Автоматизация пайплайнов: • сборка end-to-end пайплайнов доставки данных и моделей (от логов до Real-time API) • интеграция с очередями сообщений (Kafka) для обработки данных в реальном времени • написание и поддержка DAG-ов переобучения моделей в Airflow Мониторинг и логирование: • настройка базового мониторинга метрик данных и моделей (Data/Model Drift) • интеграция трекинга экспериментов и логирования цепочек LLM (MLflow, Langfuse) • ведение реестра моделей в MLflow Model Registry. Требования • инженерный опыт: От 3-х лет в роли MLE / Backend-разработчика (Python) с опытом коммерческого вывода моделей в прод и пониманием специфики Highload-систем • уверенный Python: Чистый, типизированный код, знание асинхронного программирования (Asyncio) и базовых паттернов проектирования • работа с данными и очередями: Хорошее знание SQL (сложные запросы, оконные функции) и практический опыт интеграции приложений с Kafka MLOps и Инфраструктура: • уверенное владение Docker, базовый опыт работы со средой Kubernetes (запуск подов, просмотр логов, понимание манифестов) • опыт написания пайплайнов в Airflow и интеграции моделей с MLflow Data Science бэкграунд: • понимание математики классического ML и архитектур нейросетей • базовые навыки профилирования кода и оптимизации использования памяти • опыт работы с табличными данными и современным стеком NLP/LLM будет плюсом: • понимание принципов работы корпоративных Feature Store (например, Feast) • опыт работы с векторными базами данных (Qdrant, Milvus, PGVector) • понимание базовых принципов работы CUDA и компиляции моделей (формат TensorRT и тд). Условия комфортный современный офис рядом с м. Кутузовская офисный формат работы ежегодный пересмотр зарплаты, годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития программа адаптации и помощь руководителя на старте (для Junior позиций) расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ подписка Прайм с возможностью совместного использования на трёх близких вознаграждение за рекомендацию друзей в команду Сбера.