腾讯
混元推理算子开发工程师
职位描述
1.负责核心推理算子的设计、开发与优化,涵盖 Transformer 系列(Attention、FeedForward 等)、卷积、池化等关键算子,支撑模型端到端推理性能提升; 2.针对 CPU(x86/ARM)、GPU(CUDA/TensorRT)、NPU 等异构硬件平台,进行算子适配与深度优化,解决计算效率、内存占用、 latency 等核心问题; 3.参与推理引擎架构设计,优化算子调度策略、内存管理机制,提升模型推理的并发度与资源利用率; 4.调研业界前沿推理优化技术(如算子融合、量化压缩、稀疏化、动态批处理等),并落地到实际产品中,持续迭代优化推理性能; 5.与模型算法团队、工程架构团队紧密协作,理解模型特性与业务场景需求,提供高效、稳定的推理算子解决方案; 6.负责算子性能测试、问题定位与调优,输出性能报告,保障推理系统的稳定性与可靠性。
任职要求
一年以上工作经验