LLM Platform Engineer
Описание
Мы разрабатываем прикладные LLM-решения для внутренних продуктов и процессов: от ассистентов и автоматизации рутины до интеграции моделей с корпоративными системами. Фокус — надёжные прикладные сервисы. Чем предстоит заниматься: проектировать и поддерживать MCP-серверы (Python/TypeScript): tools для LLM, auth, интеграция с корпоративными API (Bitbucket Server, EWS/Outlook, Grafana и др.); поддерживать и отвечать за единый реестр скиллов, плагинов и MCP-серверов; участвовать в разработке безопасной среды исполнения агентов; участвовать в выводе в prod/preprod: прототип → сервис → мониторинг качества, latency и cost; работать с кодовой базой и документацией, предлагать решения с учётом ограничений инфраструктуры Okko. Необходимые навыки: Обязательно: высшее техническое образование; уверенный Python; опыт backend-разработки и интеграций с API; понимание современных LLM и LLM-приложений: prompt engineering, function/tool calling, RAG там, где нужен контекст; опыт работы с Model Context Protocol (MCP); опыт интеграций через REST API и настройки доступа, плюсом — работа с системами контроля версий и review-процессами; сильные навыки CI/CD: Docker/k8s, gitlab-ci, Jenkins; опыт с трейсингом и логированием в контексте LLM: Langfuse, LangSmith, OpenTelemetry; умение писать поддерживаемый код, тесты на критичные сценарии, документация; опыт настройки инференса LLM (vLLM, SGLang, TensorRT). Желательно: опыт работы с векторными БД (Faiss, Chroma, Qdrant); опыт с LLM-платформами (OpenWebUI) и библиотеками оркестрации (чат-интерфейсы, LiteLLM, LangChain и аналоги). Мы предлагаем: необходимое оборудование и софт для работы; официальное трудоустройство; ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки; льготные условия ипотеки в рамках зарплатного проекта; бесплатная подписка на сервисы партнёров; корпоративный спорт; насыщенная корпоративная жизнь; электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.