歸藏(guizang.ai)(@op7418)· 歸藏(guizang.ai) (@op7418)·· 4 小时前AI 评估 · 36/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
字节 Seed 成立模型安全与对齐部门,全球招募 10 位顶尖研究员
字节 Seed成立了专门的模型安全与对齐部门,感觉确实很有必要。 这次他们计划在这个部门全球招募 10 位顶尖研究员。 研究课题有: 大模型及Agent安全的前沿评测方法和Benchmark建设 ...
AI 导读
字节 Seed 成立专门的模型安全与对齐部门,计划全球招募 10 位顶尖研究员,研究方向包括大模型及 Agent 安全的前沿评测方法与 Benchmark 建设、模型前沿能力对齐的训练方法、自动化 Red Teaming、模型行为可解释性以及模型能力和行为监控。此举背景是模型越狱和突破沙箱隔离环境的问题频发,且国内在安全对齐方面的进展慢于 OpenAI 和 Anthropic。
来源:歸藏(guizang.ai)(@op7418) · x.com