腾讯
光子 AI-推理部署与优化研究员
职位描述
1.推动基于Diffusion的视频模型推理时效率优化; 2.针对消费级显卡优化推理 pipeline,目标实现端侧高效生成; 3.设计高并发推理服务,实现多模型路由与灰度发布; 4.建设端到端超低延迟管线,融合硬件加速编解码; 5.研发高效视频编码配置,适配实时流媒体协议; 6.跟踪最新加速方法,探索投机式扩散采样与训推一体优化。
任职要求
一年以上工作经验
腾讯
1.推动基于Diffusion的视频模型推理时效率优化; 2.针对消费级显卡优化推理 pipeline,目标实现端侧高效生成; 3.设计高并发推理服务,实现多模型路由与灰度发布; 4.建设端到端超低延迟管线,融合硬件加速编解码; 5.研发高效视频编码配置,适配实时流媒体协议; 6.跟踪最新加速方法,探索投机式扩散采样与训推一体优化。
一年以上工作经验