Inference Engineer LLM Platform Development

Ищем Inference-инженера в команду разработки внутренней LLM-платформы Точка Банк. Мы — финтех-компания, создаём онлайн-банк и экосистему сервисов для бизнеса. 📍До 700 000 ₽, удалёнка по всему миру, возможность влиять и быть услышанным. Фокус команды — техническая инфраструктура и базовые инструменты. Мы развиваем LLM-гейтвей, инференс внутренней LLM, систему Information Retrieval и guardrails. Именно на этих компонентах строится работа с нейросетями. Мы плотно работаем с инференс-движками: не просто запускаем, а конфигурируем под highload и патчим исходный код при необходимости. Ты подойдёшь, если - Есть опыт работы с Python и asyncio, а также с aiohttp и FastAPI от 4 лет. - Любишь работать на низком уровне: тебе интересно разбираться, как инструменты работают под капотом, а также оптимизировать их производительность. - Спокойно относишься к тому, что в поиске лучшего решения код может часто меняться или «выбрасываться». - Комфортно работаешь в условиях неопределённости и быстрых экспериментов. - Умеешь брать ответственность за результат и коммуникацию. Самостоятельно организуешь свою работу и определяешь вектор, исходя из прозрачных целей команды. - Есть опыт работы с ML-инфраструктурой и ML-сервисами. Понимаешь базовые принципы работы LLM, их ограничения и возможности. Подробнее https://tchk.me/XG1aPM