腾讯
微信支付-大模型 AI Infra 研发工程师
职位描述
1.负责微信支付大模型推理平台建设与性能优化,结合模型结构、业务负载和硬件特性开展软硬件协同优化,持续提升推理吞吐、降低时延,保障大规模异构GPU集群稳定运行; 2.负责大模型训练性能优化,面向SFT、强化学习等任务,优化显存管理、分布式并行、通信和资源调度,提升训练效率及算力利用率; 3.负责国产GPU适配与异构算力优化,包括算子适配、图优化、编译优化及集合通信调优,推动主流模型和训推框架稳定落地。
任职要求
三年以上工作经验
腾讯
1.负责微信支付大模型推理平台建设与性能优化,结合模型结构、业务负载和硬件特性开展软硬件协同优化,持续提升推理吞吐、降低时延,保障大规模异构GPU集群稳定运行; 2.负责大模型训练性能优化,面向SFT、强化学习等任务,优化显存管理、分布式并行、通信和资源调度,提升训练效率及算力利用率; 3.负责国产GPU适配与异构算力优化,包括算子适配、图优化、编译优化及集合通信调优,推动主流模型和训推框架稳定落地。
三年以上工作经验