Senior Backend Engineer ML Remote

#Вакансия #удаленно #ML #backend #fulltime Вакансия: Senior Backend Engineer (c опытом ML) Компания: AGIMA Локация: не РФ/РБ Формат: удаленно Занятость: полная, проектная (до конца года с возможным продлением) Вилка: 7-10 000$ (Gross) Мы в поиске backend-инженера, который займётся созданием и эксплуатацией систем, позволяющих выводить Генеративный Искусственный Интеллект (GenAI) в промышленную среду для обработки документов и чертежей (текст и изображения). Ваша роль заключается в проектировании масштабируемых микросервисов, API и конвейеров вывода, которые обращаются к фундаментальным моделям (сегодня используем Bedrock от AWS) и делают их функциональность надёжной и готовой к промышленной эксплуатации. Обязанности: • Проектировать и реализовывать бэкенд-микросервисы и API, интегрируемые с фундаментальными моделями для обработки документов и чертежей. • Строить масштабируемые стратегии маршрутизации запросов, кэширование и очередь для вывода (способность выдерживать резкие всплески нагрузки). • Реализовывать CI/CD и механизмы наблюдения за состоянием конвейеров вывода (логирование, метрики, оповещения). • Развёртывать и эксплуатировать сервисы в Kubernetes (ответственность за развёртывание, выкатку и проверку здоровья; администрирование кластера обеспечивается платформой/SRE). • Интегрировать сервисы с услугами AWS и обеспечить правильную идентификацию доступа (IAM) и наименьшую привилегию для межсервисного взаимодействия. • Сотрудничать с учёными по данным и инженерами машинного обучения (они отвечают за обучение моделей; вы за интеграцию в производство). • Формировать производственные практики эксплуатации вывода (объем задач в рамках дежурства будет уточняться; ожидаемая поддержка инцидента на уровне службы). Требования: • Минимум 5 лет опыта создания промышленных бэкенд-систем и API на Python. • Опыт проектирования и эксплуатации распределённых микросервисов (масштабируемость, маршрутизация, кэширование, режимы отказов). • Практический опыт работы с AWS и опыт интеграции внешних API моделей (сегодня мы преимущественно обращаемся к фундаментальным моделям через Bedrock). • Опыт промышленной эксплуатации сервисов в Kubernetes (вы будете отвечать за развёртывание и эксплуатацию приложений; инфраструктура кластера поддерживается платформой). • Опыт работы с CI/CD (требуется знание GitHub Actions). • Твердые практические знания по IAM и основным принципам безопасности в облаке. • Ясное понимание логирования и наблюдаемости и умение проектировать конвейеры для последующего анализа. • Опыт работы с Terraform или иными инструментами инфраструктуры как кода (IaC). • Способность ясно и убедительно передавать решения по проектированию систем и предыдущие проекты. Будет плюсом: • Ранее сталкивались с интеграцией GenAI и LLMs (Bedrock, маршрутизация API, выбор моделей). • Опыт работы с конвейерами обработки изображений и документов (OCR, предобработка изображений, распознавание технических чертежей). • Опыт работы с паттернами оркестровки выводов (асинхронные работники, батчинг, оркестровка GPU) или знакомы с нагрузками на GPU. • Знание с инструментами жизненного цикла ML (MLflow, регистры моделей, трекинг экспериментов). • Опыт работы с сервисами реального времени и пакетной обработки выводов, хранилищами признаков или опытом использования производственной среды SageMaker. *работа в англоговорящей команде, часовой пояс Германии. Откликнуться: @staff_eeva