LLM Engineer Senior Remote

Вакансия: Senior LLM-Engineer Компания: HighSky Вилка: 8000$ - 15000$ Мы - динамично развивающийся стартап, решающий различные задачи AI в соревновательном формате: генерация текста, аудио и видео, обогащение данных, предиктивная аналитика. Мы осуществляем полный цикл работы над продуктом: от анализа бизнес-задачи до вывода в продакшен полноценного решения Находимся в поиске эксперта по обучению LLM Чем предстоит заниматься: Главная задача: обучить 1го LLM-агента для решения разных задач (instruction tuning): math solving sql generation programming Подзадачи: fine-tuning LLM: Cross-domain generalization, Trajectory fine-tuning, Behavior Cloning эксперименты с различными способами обучения: SFT,  DPO, PPO, GRPO, RLHF, PEFT, Knowledge distillation Сбор, очищение данных Выбор архитектур и  pre-trained моделей Объединение моделей и адаптеров Требования к кандидату: • Опыт обучения LLM (fine-tuning / pre-training)  от 2 лет • Опыт применения различных методов обучения LLM • Опыт с различными pre-trained моделями • Опыт работы с экосистемой huggingface: transformers, datasets, peft, trl • Хорошее понимание теоретической базы: NLP, transformers, LLM. • Понимание всех циклов предобучения и файнтюнинга RL, classic  ML • Опыт коммерческой разработки с нуля • Опыт работы от 6 лет • Высшее образование в области компьютерных технологий / прикладной математики и (или) прикладной информатики; Будет плюсом: • Научные исследования по Computer Science  • Призовые места в соревнованиях (kaggle, boosters), опыт участия в хакатонах  • ШАД / Школа 21 Что мы предлагаем: • Участие в разработке динамично развивающегося продукта, работающего на рынке в реальном времени; • Справедливую заработную плату по результатам собеседования и вашей квалификации в вилке  8.000$-15.000$; • Возможность прокачивать свою экспертизу за счет работы с топовыми коллегами и обучения в моменте; • Классный молодой коллектив профессионалов, заряженных на результат. • Ценим порядочность, честность и открытость; • Возможность реализовывать смелые и амбициозные инициативы; • Горизонтальную структуру, отсутствие бюрократии и синдромов «больших начальников»; • Мы за результат, а не процесс. У всех наших сотрудников удобный график и полностью удаленная работа. Если увидел в этом описании себя - скорее откликайся, чтобы стать частью нашей команды! Контакт: @dybovanya