大模型应用算法工程师

前沿模型选型与微调 针对具体业务场景，评估LLaMA/Qwen等开源或商用大模型的技术特性与适用边界，实施全参数微调、LoRA、QLoRA、RLHF、DPO 等优化策略，确保模型在垂直领域满足上线所需的精度标准。 数据工程与知识库构建 主导大规模文本及多模态数据的获取、清洗、去重、比例调配、指令样本设计与质量校验工作，搭建支持版本迭代的知识库体系或向量索引结构，为RAG、智能体系统提供可靠的检索基础。 模型压缩与推理加速 采用量化、剪枝、蒸馏以及Flash-Attention、vLLM、TensorRT-LLM、Triton等技术手段，在GPU/昇腾/NPU硬件平台上实现2至10倍的推理提速与显存占用降低，保障线上服务具备低延迟、高并发能力。 应用框架与智能体开发 基于LangChain、LlamaIndex、Dify、Coze、AutoGPT等工具构建智能代理系统，实现多轮交互、工具调用（Tool Calling）、任务分解、意图识别与流程编排，支撑复杂业务场景的自动化执行。 高性能服务化与部署 使用Python结合FastAPI/Tornado开发异步推理接口，封装REST/gRPC协议；通过Docker+K8s+Helm完成容器化部署与集群管理，支持灰度发布、弹性扩缩容、负载均衡及系统可观测性建设。 存储与检索系统 设计融合PostgreSQL、Redis、Milvus/Elasticsearch的多引擎存储架构，兼顾结构化元数据管理、缓存机制、向量搜索与关键词匹配，提升多路召回的效率与准确性。 性能监控与持续优化 建立完整的线上监控指标体系（包括QPS、延迟、首 token 时间TTFT、TP99、吞吐量、GPU利用率），定位系统瓶颈并推动迭代改进；借助A/B测试验证关键业务指标（如准确率、转化率、用户满意度）提升效果。 技术跟踪与内部赋能 持续跟进NeurIPS、ICML、ACL、EMNLP等顶会研究成果，关注主流开源社区演进动态，定期输出技术分析报告与落地实践指南，促进团队技术水平升级与内部知识共享