端侧模型工程师

工作职责 1.负责将SLAM和感知团队训练的PyTorch/ONNX模型（如车牌识别LPR、语义分割）移植到嵌入式平台。利用TensorRT进行推理加速，确保关键算法满足实时性要求。 2.实施PTQ（训练后量化）和QAT（感知量化训练），将FP32模型压缩至INT8。与SLAM工程师配合，在保证定位精度的前提下，大幅降低显存占用和功耗。 3.针对工具链不支持的特殊网络层，利用AI工具辅助编写高性能的CUDAKernel或C++实现。 4.监控边缘端的GPU/CPU/内存占用，通过多流（Multi-stream）优化和内存管理，确保视觉识别与激光SLAM不发生资源抢占，保障系统稳定性。 任职资格 1.计算机、电子信息相关专业统招本科及以上学历。 2.精通TensorRT工具链，熟悉ONNXRuntime。有实际将模型部署在Jetson平台的量产经验。 3.精通C++/CUDA编程。具备AI辅助开发能力，能利用AI将Python推理代码快速重构为高性能C++推理代码。 4.熟悉主流量化策略，能独立分析并解决量化带来的精度损失问题（如某层激活分布不均导致的溢出）。 5.理解ROS2节点机制，能够将优化后的推理引擎封装为标准的ROS节点，并支持零拷贝（Zero-copy）图像传输。