点评技术-训推框架工程师

职位描述

1. 负责训推框架的架构设计与开发，支持搜推模型、生成式推荐及大语言模型的训练与在线推理，提升框架的性能、稳定性与易用性。 2. 优化分布式训练，解决数据读取、Embedding 访问、GPU 计算、通信及显存等关键瓶颈，在保证训练正确性与收敛效果的前提下，提升吞吐和资源效率。 3. 与算法团队开展模型与系统协同设计，优化算子实现、模型执行与并行策略，兼顾模型效果、训练成本和推理时延。 4. 建设性能分析、故障诊断与恢复能力，完善训推一致性验证，保障系统稳定运行。 5. 跟进 AI Infra 前沿技术，结合业务需求开展技术选型与工程验证，推动有效方案规模化落地。

任职要求

1. 具备扎实的编程和系统基础，熟练使用 Python 与 C++，具备良好的代码设计、调试与性能分析能力。 2. 深入掌握至少一种主流深度学习框架，理解模型训练与推理的基本机制，对自动求导、计算图、算子执行、混合精度或分布式执行等有深入认识，能够结合实际任务分析框架行为。 3. 在训练框架、推理引擎、算子或框架底层优化中至少一个方向有深入实践，能够定位复杂性能问题，并验证优化收益与结果正确性。 4. 具备技术方案设计与项目推进能力，能够独立负责关键模块，理解算法和业务需求，与相关团队协作推动落地，对结果负责。