MLOps-инженер

Ищем MLOps инженера, который будет настраивать модели, агентов и базы данных на железе, оптимизировать их работу и готовить измеримые результаты для команды. Работа предстоит и в собственной лаборатории с тестовым сервером для PoC и сборки MVP, и на удаленных стендах вендоров.

Задачи:

• Разворачивать и обслуживать GPU серверы и инференс окружения для LLM в локальном контуре и на стендах вендоров.
• Настраивать и поддерживать пайплайны деплоя моделей и агентов, включая версионирование.
• Создавать тестовые песочницы для валидации новых моделей и фреймворков.
• Тестировать новые фреймворки и рантаймы как на локальном оборудовании, так и на удаленных стендах вендоров.
• Настраивать мониторинг качества и производительности инференса.
• Оптимизировать паттерны обращения к моделям и throughput под нагрузкой.
• Участвовать в сборке PoC и MVP.