腾讯
TIONE-高级AI Infra后台研发工程师-K8S云原生方向-上海/杭州/深圳/北京
职位描述
1.负责基于 Kubernetes 的大模型推理云原生平台建设，主导推理场景下的 K8s 调度、资源管理与核心插件 （Operator / CSI / CNI / 设备插件）研发，构建高弹性、多租户、异构算力统一调度的大模型推理服务平台， 支撑混元及第三方模型高效、稳定上线； 2.负责海外机房建设进展跟综及GPU、网络等相关验收； 3.云原生推理平台架构：基于 K8s 主导 TIONE 推理平台控制面与数据面架构设计，构建高弹性、多租户的大模型推理服务，覆盖模型部署、弹性伸缩与推理调用全生命周期； 4.K8s 调度与资源管理：深度定制 K8s 调度器（Scheduler Framework / 调度插件），实现 GPU / NPU 拓扑感知调度、优先级抢占、配额与算力池化； 5.Operator 与 CRD 开发：设计推理平台核心 CRD（Model / InferenceService / Deployment 等）与 Controller，基于 controller-runtime 实现生命周期管理、状态协调与故障自愈； 6.设备插件 / CSI / CNI：开发 GPU / NP
任职要求
五年以上工作经验