AI大模型安全算法工程师

职位描述

1.与混元基座模型团队协同，负责基座模型的网络安全对齐，让模型能判断任务边界、识别恶意意图，覆盖对话和 Agent 执行（工具调用、代码执行、自主渗透决策）两类场景； 2.以真实风险案例、红蓝对抗产出和威胁情报作为初始样本源，构建 harmful/borderline/benign 分层数据。负责数据分布设计、质量控制，以及数据对模型收益的消融验证； 3.基于 LLM 生成、改写、变异、对抗搜索、多轮/多 Agent 轨迹合成，在扩大风险手法与场景覆盖的同时，控制分布偏移和数据污染； 4.建设网络安全对齐评测体系，同时度量有害请求的拒绝率和正常安全工作（漏洞研究、防御开发、合规渗透）的误拒率，并补齐 Coding / 客服 / 助手类 Agent 的执行层越权评测，用评测结果驱动数据和训练策略迭代； 5.研究大模型护栏与内生安全，对比分析外挂护栏（分类器 / 审核模型）与模型内生对齐的取舍和组合方式，探索偏好优化、拒答校准、推理链安全约束等方法； 6.跟踪国内外前沿进展（头部模型厂商的安全对齐和红队实践、学术界越狱与对齐研究），快速复现、验证并工程化落地。

任职要求

三年以上工作经验