阿里云智能-异构计算软硬件结合开发专家-北京/杭州/上海
Alibaba Group
AI assistant
Job Description
1. 算力规划与选型:结合业务发展规划与负载画像,负责 AI 算力系统(GPU / CPU / 网络 / 存储等)的选型评估与技术路线规划,参与万卡级训练/推理集群的架构设计与容量规划,推动异构服务器产品的规划与规模化落地。
2. 性能建模与分析:构建覆盖异构硬件与系统的全链路量化分析模型,对大模型训练/推理负载做端到端性能评估与瓶颈分析,沉淀数据驱动的决策体系,为硬件选型、集群配置与系统优化提供依据。
3. 前沿架构研究:跟踪并研究主流 GPU 架构、互联与存储技术的演进,参与下一代 AI Infra 的规划与设计。
4. 方案落地与性能优化:深入大规模训练/推理集群的实际运行,定位并解决性能问题,用线上数据持续校准性能模型,形成从规划、评估到落地的闭环。
1. 具备扎实的计算机体系结构基础,对计算、存储、互联子系统有深入理解。
2. 熟悉大模型训练/推理的性能建模方法,具备端到端性能评估经验;有性能仿真器或解析模型开发经验者优先。
3. 具备面向 AI 场景的异构计算服务器及集群系统架构设计能力,有万卡集群规划经验者优先。
4. 熟悉大模型训练/推理主流框架,在 Megatron-LM、vLLM、SGLang 中至少一个上有系统级开发或调优经验;有 KV Cache 池化与多级缓存(HBM / DRAM / SSD)、网络拥塞控制算法优化等系统级优化设计经验者优先。