推理引擎工程师

职位描述

1. 负责美团搜推各场景推理引擎架构的设计与开发，覆盖大语言模型（LLM）与搜推模型（生成式推荐/排序模型）两类场景。 2. 负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长。 3. 跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。

任职要求

1. 计算机、自动化、电子信息或相关专业本科及以上学历； 2. 熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术； 3. 深入理解 GPU 体系结构（SM、显存带宽、Warp 调度等），有 CUDA 编程与性能调优经验 4. 熟悉主流推理框架（vLLM / TensorRT-LLM / SGLang / TensorRT 等）中至少一种的架构与源码。 5. 对技术有强烈热情，具备持续学习能力和钻研精神，代码质量意识强，工作态度严谨；具备良好的沟通协作能力和团队精神，有较强的主动性和求知欲。