AI application security engineer
Описание
Мы — команда безопасности ИИ в Центре киберзащиты Контура. Ищем специалиста по кибербезопасности, который поможет внедрять и сопровождать решения на базе AI — от продуктовых сервисов и RAG-систем до внутренних AI-инструментов разработки. В Контуре активно развивается использование AI-ассистентов и агентов. Наша задача — сделать так, чтобы эти инструменты были безопасными, а разработчик получал защищенный результат, соответствующий ИБ-политикам, без необходимости погружаться во все тонкости ИБ.Задачи Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями. Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents. Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций. Укреплять внутренний AI/ML-тулинг совместно с платформенными командами. Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы. Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management. Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов. Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы. Мы ожидаем Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security. Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust. Умение читать чужой код, искать уязвимости и писать PoC. Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP. Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами). Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров. Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling. Умение аргументированно объяснять риски, находить компромиссы с разработкой. Мы предлагаем Гибридный формат работы в Екатеринбурге. Офис на ул. Малопрудной, 5. Предоставим все необходимое: технику, рабочее место, библиотеку с профессиональной литературой, место для отдыха и кухонную зону с фруктами и снеками. Уровень дохода, который зависит от ваших технических знаний и навыков. Регулярно пересматриваем зарплаты с учетом профессионального роста. Финансовые бонусы тоже есть. Сильное инженерное комьюнити. Регулярно проводим внутренние технические конференции, обмениваемся опытом между командами. Вы всегда найдете с кем посоветоваться. Возможность сменить продукт, команду или предметную область внутри компании. Поддерживаем развитие в любом направлении. Общение на «ты» и максимум горизонтальных связей в коллективе, чтобы быстрее договариваться и решать рабочие задачи. Возможность делиться экспертизой. Помогаем выступать на конференциях, участвовать в подкастах или видео, писать статьи. Поддержку профессионального развития. Организуем внутреннее и внешнее обучение.