Senior Linux инженер GPU (ЦРИИИД)
Сбер. IT
AI assistant
Job Description
Мы - команда инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы находимся в поиске Linux инженера, который возьмет на себя вопросы, связанные с разворачиванием, настройкой и тонким тюнингом core Linux для обеспечения оптимальной работы инференс движков.
Обязанности
- настраивать, поддерживать и траблшутить GPU-инфраструктуру Блока
- настраивать логирование, мониторинг и алертинг работоспособности всех компонентов инфраструктуры
- коммуницировать со смежными подразделениями в части улучшений инфраструктурного ландшафта Блока — участвовать в оценках инфраструктуры под новые продукты и проекты.
Требования
- продакшн опыт работы с GPU-инфраструктурой и инференсом SOTA LLM
- опыт с ОС Linux: основные дистрибутивы,