字节跳动单独设立大模型安全部门 把控智能体风险

【】 10月13日，从 字节跳动 处了解到，字节AI模型部门Seed内部通知称，将成立一个新的部门，负责把控大模型的安全风险问题，该部门负责人直接汇报给字节跳动大模型“一号位” 吴永辉。新部门的名称为“Seed Model - Alignment &Preparedness”，由严林负责。所谓“对齐”，即指让AI遵守人类真正的意图，在确保安全的前提下行动。严林是字节跳动Seed核心高管之一，近年负责 豆包 大模型对齐（Alignment）方向。从产品角度，这会体现在豆包这类聊天机器人（chatbot）的输出内容合规性、问答以及价值观层面的质量上。