阿里巴巴
智能引擎-AI存储研发工程师-大模型推理 / KV Cache / KV 存储方向
官网发布时间：
职位描述
面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。你将参与以下工作： 1. 参与大模型推理基础设施研发，围绕 KV Cache 管理、缓存复用、数据存储与传输，提升推理效率和资源利用率。 2. 设计和优化高性能缓存及 KV 存储系统，包括内存管理、并发访问、数据组织、缓存淘汰和持久化等核心能力。 3. 优化跨 GPU、CPU 内存及存储介质的数据流转，支持分布式缓存、存储与资源调度。 4. 定位并解决线上性能与稳定性问题，持续优化系统吞吐、延迟和可靠性。
任职要求
1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试及性能分析。 2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。 3. 具备以下任一方向的经验： -大模型推理 / KV Cache：理解 Transformer 推理、Attention 和 KV Cache 等核心机制，有显存管理、推理调度、缓存复用或分布式资源调度经验。 - KV 存储 / 缓存系统：有高性能 KV 存储、存储引擎或分布式缓存研发经验，熟悉索引结构、内存管理、并发控制、缓存淘汰或持久化机制。 4. 具备良好的问题拆解和工程落地能力，能够定位复杂性能与稳定性问题，并推动持续优化。 5. 对大模型推理、AI 基础设施和性能优化有浓厚兴趣，愿意深入理解业务场景并解决系统瓶颈。 加分项： 1. 熟悉 vLLM、SGLang、TensorRT-LLM 等推理框架，或有 KV Cache 分层存储、前缀缓存、跨节点复用经验。 2. 有 Redis、RocksDB、LevelDB 等缓存或存储系统的内核研发、深度优化经验。 3. 有 CUDA、RD