腾讯
混元大模型预训练算法研究员/专家研究员(深圳/北京/上海)
职位描述
1.负责生成式大模型预训练相关的工作,包括但不限于:大规模模型预训练,长文本预训练,线性模型结构探索; 2.探索与跟进前沿技术,寻求技术突破,推动机器在AIGC能力的提升和突破; 3.探索高效的模型知识嵌入方法以及模型知识在线学习更新; 4.探索文本模型预训练的scaling law,在小规模小成本下更精准地预测大规模训练后的表现。
任职要求
一年以上工作经验
腾讯
1.负责生成式大模型预训练相关的工作,包括但不限于:大规模模型预训练,长文本预训练,线性模型结构探索; 2.探索与跟进前沿技术,寻求技术突破,推动机器在AIGC能力的提升和突破; 3.探索高效的模型知识嵌入方法以及模型知识在线学习更新; 4.探索文本模型预训练的scaling law,在小规模小成本下更精准地预测大规模训练后的表现。
一年以上工作经验