端侧大模型部署专家

工作职责: 1、参与大模型在端侧硬件平台（NPU/GPU）的完整部署流程 2、负责大模型部署工具链的技术架构设计与核心功能开发 3、参与项目交付，实现量产项目中产品规划的性能目标 4、与算法团队深度协作，从性能、精度及部署成本等维度提供反馈与技术要求 任职资格: 1、硕士学历，具备3年以上工作经验，其中至少1年从事模型部署相关开发 2、精通C++/Python等编程语言，具备扎实的数据结构与算法基础 3、掌握模型量化基本原理及主流大模型量化方法，有量化精度调优经验者优先 4、理解transformer模型结构及自回归推理机制，能熟练运用模型等价转换技术 5、具有大模型部署优化实践，如KV cache优化、预测解码等技术经验 6、了解高通cDSP/HVX/HMX硬件模块，熟悉QNN SDK/API，具备相关开发经验者优先 7、具备出色的逻辑分析与问题解决能力，良好的团队合作与沟通素养