腾讯
AI 分布式框架研发工程师-Ray(北京/深圳/上海)
职位描述
1.基于开源项目 Ray,打造支撑大模型的分布式计算框架,包括但不限于以下方向:引擎内核(分布式 Task 调度与执行、CPU/GPU 异构资源调度)、分布式数据处理框架、分布式训练框架、分布式在线服务编排框架等; 2.面向大模型的数据生产,建设 PB 级、多模态(文本/图像/视频/音频)的数据处理流水线,覆盖预训练与后训练数据的清洗、过滤、去重、打分、合成等环节,以及大规模离线推理,提升数据生产的吞吐、效率与稳定性; 3.面向大模型的模型生产,建设后训练基础设施,包括但不限于强化学习(RL)多角色编排(Rollout/Reward/Training)、训练任务容错、Agent 环境与沙箱服务等,加快模型迭代; 4.与 K8s 深度融合,建设云原生环境下超大规模 CPU + GPU 集群上的联邦调度、弹性伸缩、容错与平台化能力,提升算力利用率,为大模型研发提供高可用、可扩展、好用的算力服务; 5.参与开源共建与合作,提升团队与个人在业界的影响力。
任职要求
三年以上工作经验