MLOps / DevOps Engineer (LLM, GPU)
Описание
ПравоТех — продуктовая IT-компания, которая с 2008 года разрабатывает решения для автоматизации юридических процессов. Сейчас мы развиваем ПравоАгент — платформу AI-агентов для решения юридических задач. Наши агенты работают с документами, находят информацию в законодательстве и судебной практике с помощью RAG и помогают готовить юридические документы. Мы ищем MLOps / DevOps Engineer (LLM, GPU) в продуктовую команду ПравоАгента. Нам нужен инженер, который поможет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и станет связующим звеном между разработчиками продукта и командой Platform Engineering. Чем предстоит заниматься: Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab. Запускать и поддерживать на GPU модели для работы и поиска по документам (OCR, эмбеддинги, реранкеры): настраивать их под нагрузку и следить, чтобы индексация и поиск работали быстро и стабильно. Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами. Развивать инфраструктуру для запуска языковых моделей на собственных GPU. Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию. Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов. Для нас важно: Опыт работы в DevOps / MLOps от 4 лет, из них не менее 1 года коммерческого опыта в LLMOps. Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов. Практический опыт с Kubernetes, Helm и CI/CD. Уверенные знания Linux и сетевых технологий. Опыт работы с API языковых моделей. Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами. ➕ Будет плюсом Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений. Опыт работы с Terraform, облачной инфраструктурой и мониторингом. Опыт с векторным и полнотекстовым поиском (Qdrant, PostgreSQL). Опыт развёртывания продуктов в закрытых контурах заказчиков. Понимание требований информационной безопасности корпоративных заказчиков. Что мы предлагаем: Работу над AI-платформой с реальными production-задачами и возможностью влиять на технические решения. Продуктовую команду, в которой можно участвовать в развитии инфраструктуры с ранних этапов. Удалённый формат работы с ориентиром на московское время или работу в офисе. Официальное трудоустройство и полностью белую заработную плату. ДМС со стоматологией. Дополнительные корпоративные бонусы на выбор: компенсация питания, занятий спортом или изучения иностранных языков. Доступ к сервису психологической поддержки и коучинга. Необходимую технику для комфортной работы.