小米
具身世界模型推理INFRA工程师 - XiaomiRobotics
官网发布时间:
职位描述
对具身世界模型进行推理阶段的加速,包括Multi-Token-Prediction在推理端的适配、张量并行和专家并行在推理框架的适配、CFG并行适配、模型的FP8量化和NVF4量化等,与算法团队协作优化最终上线/开源模型的推理速率
任职要求
硕士及以上学历 有丰富的Diffusion模型和多模态AR大模型推理加速经验 参与多模态大模型/视频模型的推理加速和商业化落地
小米
官网发布时间:
对具身世界模型进行推理阶段的加速,包括Multi-Token-Prediction在推理端的适配、张量并行和专家并行在推理框架的适配、CFG并行适配、模型的FP8量化和NVF4量化等,与算法团队协作优化最终上线/开源模型的推理速率
硕士及以上学历 有丰富的Diffusion模型和多模态AR大模型推理加速经验 参与多模态大模型/视频模型的推理加速和商业化落地