字节跳动Seed最近发了一封内部邮件，宣布成立一个新部门，名字叫“Seed Model-Alignment&Preparedness”。负责人是严林，直接向Seed负责人吴永辉汇报。

这个部门的定位很明确：加强安全与对齐方向的投入。对齐这件事，核心就是让模型的行为跟人类意图、安全约束保持一致。说白了，就是让模型别乱来。

打开网易新闻 查看精彩图片

两个团队被划了进来

打开网易新闻 查看精彩图片

原Responsible AI团队，以及部分Chat团队成员，将转入这个新部门。这不是从零搭班子，而是把已有的安全相关力量重新归拢到一个更聚焦的组织里。

从人员来源看，Responsible AI原本就是管负责任AI的，Chat团队则直接接触对话模型的一线工作。两边合流，指向的是同一个目标。

要解决的两类问题

邮件里点出了新部门要提升的方向，可以拆成两块：

  • 提升Agent Model（智能体模型）的安全能力
  • 防范CBRN（化学、生物、放射、核）等前沿能力风险

智能体模型和普通对话模型不一样，它会自己调用工具、执行多步任务，行为链条更长，出问题的口子也更多。安全能力跟不上，风险会被放大。

打开网易新闻 查看精彩图片

CBRN这类前沿能力风险，则是另一个维度的担忧——模型如果在这类敏感领域具备过强能力，可能带来难以预估的后果。把防范这类风险写进部门职责，说明字节在安全上的考量已经延伸到了前沿能力层面。

组织动作背后的信号

把安全与对齐单独设成一个部门，由专人负责、直接向Seed负责人汇报，这个层级安排本身就说明了投入力度。对齐不再是附属在某个团队里的小分支，而是有了独立的组织位置。

对做模型的人来说，这意味着安全和对齐正在从“事后补丁”变成“并行推进”的一环。模型能力往前跑的同时，约束机制得同步跟上。