Руководитель направления безопасности GenAI-моделей (разработка программного обеспечения)
Описание
Предлагаем вам возможность присоединиться к команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе ИИ-агентов. В коллективе опытных экспертов вы будете разрабатывать программное обеспечение для автоматизации исследования и тестирования безопасности GenAI моделей.Вам предстоит: разработка программного обеспечения: создание, поддержка и развитие инструментов для анализа и поиска угроз GenAI, в т.ч.: -разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения) -создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (python скрипты, библиотеки: flask/fastapi, asyncio, pydantic, langchain/gigachain, ИИ агенты для генерации кода) DevOps: CI/CD, контроль версий (git), тестирование качества ПО (pytest, mypy, black), инфраструктура для работы (linux) внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ моделей погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и ИИ агентами. Что для нас важно: профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений продвинутые навыки программирования на Python: понимание принципов проектирования и разработки программного обеспечения, асинхронное программирование, API (REST), умение писать чистый (понятный, поддерживаемый) код навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО LLM и AI агенты: опыт эффективного применения LLM для разработки ПО английский язык на уровне, достаточном для чтения технической документации и статей опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде и согласовывать требования. Будет преимуществом: знание основ информационной безопасности, понимание рисков ИБ для LLM и AI агентов: OWASP, MITRE, БДУ ФСТЭК, Модель угроз кибербезопасности AI Сбер. Мы предлагаем: комфортный современный офис офисный формат работы ежегодный пересмотр зарплаты, годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития программа адаптации и помощь руководителя на старте расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ подписка Прайм с возможностью совместного использования на трёх близких вознаграждение за рекомендацию друзей в команду Сбера.