异构计算软硬件融合高级开发-深圳/杭州

职位描述 1. 深入理解主流AI芯片与服务器架构，剖析硬件加速特性及内部拓扑结构，输出可落地的硬件优化方案与调优建议，充分释放硬件性能潜力。 2. 结合主流LLM推理框架（如sglang/vLLM）以及大模型结构与计算特征，通过软硬件协同创新（涵盖硬件算子优化、显存管理、并行策略等），主导新服务器平台端到端性能分析与调优工作。 3. 提供面向具体场景的定制化优化能力，精准识别大模型在各类业务环境中的性能瓶颈，并快速制定匹配需求的优化策略。 4. 熟练掌握系统级调优与Profiling工具（如nsys/ncu系列、Perf、火焰图等），具备系统性性能分析和瓶颈定位能力，能结合硬件特点完成软件适配与深度优化。 5. 跟踪大模型技术发展趋势，结合硬件Profiling与Trace数据，为下一代AI基础设施的服务器架构设计与研发提供数据驱动的量化分析支持。 职位要求 1. 具备扎实的工程开发能力，熟练掌握C++和Python编程语言，拥有Cuda/Cutlass/Triton相关开发经验，具备高性能推理代码实现与优化实践。 2. 熟悉主流AI加速芯片（如NVIDIA、AMD、寒武纪/DCU等）的体系结构、指令集与计算特性，具有异构计算环境下开发与性能调优的实际经验。 3. 熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备二次开发或深度优化经验（包括KV Cache优化、编译优化、Speculative推理、量化、DeepEP等技术）。 4. 了解服务器硬件架构（CPU、内存、网络、存储等）及多异构芯片互联拓扑，具备系统级性能分析与瓶颈诊断能力，能够基于硬件特性开展软件适配与优化。 5. 具备良好的团队协作与沟通能力，能够与跨职能团队高效协同，具备项目统筹与组织规划能力，保障项目高质量按时交付。 如下经验优先： 1. 性能调优经验：具备sglang/vLLM在新硬件平台上的适配与优化经验，有针对Qwen/DeepSeek等模型进行性能优化者优先。 2. 算子优化经验：面向大模型场景，具备cutlass、Triton算子层面优化经验，熟悉投机采样、TP/EP并行优化者优先。