Anthropic Bloom 开源：自动化行为评估框架
2026 年 8 月 21 日，Anthropic 官方。
事件背景
Bloom 是 Anthropic 内部使用的行为评估框架，现开源供社区使用。框架旨在自动化评估 LLM 的特定行为，如偏见、自我保护、政治倾向等。
关键事实
- 功能： 自动化生成评估场景并评分 LLM 行为
- 架构： 多代理编排，支持大规模并行评估
- GitHub stars： 1,390
- 协议： MIT
- 维护方： Anthropic safety-research 团队
技术机制
Bloom 采用多代理架构：一个代理生成评估场景，另一个代理执行目标模型，第三个代理评分输出。这种设计允许灵活定义评估目标（如"检测模型是否表现出自我保护倾向"），并自动化执行大规模测试。
影响与意义
Bloom 为 AI 行为评估提供了高效、可扩展的框架。对研究者而言，框架降低了行为评估的技术门槛；对开发者而言，框架提供了标准化的评估工具；对监管者而言，框架提供了可复现的评估方法。
风险边界
- 自动化评估无法完全替代人工红队测试，复杂行为仍需人工判断
- 评估场景的质量直接影响结果的可信度
- 框架的维护依赖于 Anthropic 的持续投入
后续观察
- 社区对 Bloom 的采用情况
- 新增的评估场景和行为类型
- Bloom 在 AI 安全评估中的标准化进程
AI Master 解读
核心事件
Anthropic 开源 Bloom 行为评估框架。
行业影响
为什么重要： AI 安全评估长期依赖人工红队测试，成本高、覆盖有限。Bloom 通过多代理自动化评估，大幅降低行为评估的成本和门槛。框架的开源意味着社区可以共同构建评估场景，形成更全面的 AI 行为测试标准。
影响分析：
| 维度 | 影响 |
|---|---|
| 评估效率 | 多代理自动化，替代部分人工红队测试 |
| 覆盖范围 | 支持偏见、自我保护、政治倾向等多种行为 |
| 社区价值 | 开源框架允许社区共建评估场景 |
| 行业标准 | 可能成为 AI 行为评估的事实标准 |
AI Master 建议
评估 Bloom 在你的模型评估流程中的适用性；关注社区贡献的评估场景；跟踪 Bloom 在 AI 安全评估中的采用情况。