打开网易新闻 查看精彩图片

观点网讯:字节跳动Seed近日发出内部邮件,宣布将成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给Seed负责人吴永辉。

根据内部邮件,原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入。

对齐的核心是让模型的行为与人类意图和安全约束保持一致。据悉,新部门设立旨在提升Agent Model安全能力,以及防范CBRN等前沿能力风险。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。