字节跳动旗下大模型研究团队Seed近日通过内部邮件宣布,正式成立“Seed Model-Alignment&Preparedness”部门。

该部门由严林担任负责人,直接向Seed负责人吴永辉汇报,原Responsible AI团队及部分Chat团队成员将整体转入。

据内部邮件披露,新部门的设立旨在加强安全与对齐方向的投入。

所谓对齐,核心是让模型的行为与人类意图和安全约束保持一致,重点提升Agent Model(智能体模型)的安全能力,并防范CBRN(化学、生物、放射、核)等前沿能力风险。

工作将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入,同时加强与外部研究机构和第三方评测的公开合作,目标是随着模型能力和自主性增强,持续降低滥用及行为偏离风险,建立面对未知风险的全面安全体系。

此前,国内大模型研究团队的安全与对齐工作大多被纳入公司整体的安全合规体系中。字节跳动Seed是国内首家单独成立安全与对齐部门的前沿AI实验室。

Seed团队内部判断,随着模型能力越来越强、应用场景越来越复杂,安全与对齐已不只是风险防范,而是决定模型能否规模化应用的核心能力。

Seed团队成立于2023年,是字节跳动大模型基础研究的核心团队,已推出豆包大模型、Seedance视频生成等产品。

Seed负责人吴永辉2025年2月加入字节跳动,此前在谷歌工作17年,曾任Google Fellow、Gemini大模型应用总技术负责人之一,目前统筹Seed全部基础模型研发,直接向字节跳动CEO梁汝波汇报。