Разработчик для дообучения нейросети в проект (дата сайенс/ML)
Описание
eggscom.studio - стартап-студия с фокусом на запуск AI стартапов. В команду студии ищем датасаентиста/ML-разработчика с опытом дообучения нейросетей. В фокусе создание внутреннего продукта для помощи партнерам (кофаундерам) студии в работе над стартапами. Задачи: - дообучение LLM (fine-tuning) на 16B по методологии студии (цели, этапы, термины создания и развития стартапов) - сбор и подготовка датасета в формате JSONL/ChatML - отбраковка мусора: дедупликация, валидация структуры, балансировка категорий, сплит на train/val. - запуск дообучения и контроль качества по эпохам: переобучение, деградацию базовых знаний и русского языка, выбор чекпоинта по val-лоссу и ручной оценке ответов Требуемые навыки: - Python на рабочем уровне: работа с JSONL/CSV, скрипты валидации и сплита данных. - работа с LLM: Hugging Face transformers + datasets/trl, PEFT (LoRA/QLoRA), Unsloth. - понимание гиперпараметров: число эпох, learning rate, LoRA rank/alpha, batch size, шаги. - оценка качества: train/val loss, метрики, ручное ревью ответов модели. - инструменты разметки и генерации данных: Argilla, Label Studio (или аналоги), Distilabel для синтетики. - очистка данных: дедупликация, text-dedup или собственные скрипты. Требуемый опыт: - реальный опыт дообучения моделей: минимум 1–2 завершённых прогона fine-tuning с измеримым результатом (можно pet проекты) - сборка датасета: понимание различий переобучения и недообучение, принципа работы с весами - фокус с текстовыми/чат-моделями (NLP/LLM) Условия: - удалённая работа до 4х часов в день, - график по согласованию (выходные, вечер) - оплата за проект частями по согласованным этапам - работа с сотрудниками и партнерами студии по сборке датасета Оплата по договорённости после собеседования