Руководитель направления AI Safety
Описание
Мы развиваем GigaChat — самый быстрорастущий AI-проект Сбера — и ищем сильного руководителя направления безопасности ИИ. Нашими моделями пользуются миллионы людей, и наша задача делать LLM безопасной — чтобы ее просто так нельзя было уболтать продать ваш Chevrolet за 1 рубль. А ещё, помимо безопасности, наша команда развивает GigaEmbeddings — эмбеддер, который больше года удерживает топ-1 по качеству среди русскоязычных моделей на лидерборде ruMTEB. Это роль для технического лидера, который возглавит направление: от обучения быстрых guard-моделей и online-RL до систематического редтиминга, аналитики атак на реальном трафике и развития лучших русскоязычных эмбеддеров. Обязанности Улучшать модели-защиты • Обучать компактные и быстрые классификаторы входящих и исходящих сообщений: дистилляция, работа в жёстком бюджете latency, не деградируя качество основной модели. • Развивать online-RL контур: дообучать защиты и модель на свежих атаках и сигналах с продакшена, сокращая цикл от обнаружения новой атаки до устойчивости к ней. • Балансировать метрики защит: пропущенные нарушения против ложных срабатываний, и держать оба показателя под контролем на масштабе. • Выстроить систематический red teaming: ручной и автоматизированный поиск джейлбрейков, prompt injection, обходов защит — перед каждым релизом и постоянно на живых моделях и продакшен-логах. Улучшать эмбеддеры • Развивать GigaEmbeddings: подбор и синтез данных, contrastive learning, hard negatives, дистилляция в компактные версии — удерживая топ-1 на ruMTEB. • Применять эмбеддеры в задачах безопасности: кластеризация атак и поиск аномалий в пользовательских логах, отслеживание эволюции техник обхода. • Собирать из продакшен-данных датасеты, и целевые тестовые наборы под конкретные кейсы: например, рефразы или ранжирование. • Быстро отвечать данными на вопрос «почему защиту пробили и что именно сломалось» и превращать разборы инцидентов в улучшения моделей. Для нас важно • Отличное владение Python и PyTorch, практический опыт обучения моделей — классификаторов и LLM, а не только их использования. • Опыт с RL-методами дообучения (RLHF/DPO/online-RL) или готовность быстро в них погрузиться на практическом уровне. • Умение работать с продакшен-данными и обучать классификаторы: вытащить сигнал из логов, собрать датасет, посчитать метрики и понять, где разница значима, а где — шум. Требования • Опыт обучения guard-моделей (Llama Guard и аналоги) или построения модерационных систем под высокой нагрузкой. • Опыт обучения эмбеддеров или ретриверов и знакомство с бенчмарками MTEB/ruMTEB. • Опыт автоматизированного red teaming и знакомство с профильной литературой по adversarial robustness. • Опыт в командах безопасности разработчиков моделей; публикации или open-source вклад в области AI safety. Условия • Большую степень влияния на безопасность моделей, которыми пользуются миллионы людей. • Возможность развивать GigaEmbeddings — лучший русскоязычный эмбеддер, больше года удерживающий топ-1 на ruMTEB. • Команду сильных инженеров и исследователей. • Возможность совмещать управление направлением с глубокой технической работой. • Конкурентную компенсацию, премии и расширенный соцпакет.