LLM Scheming（LLM 欺骗行为）
LLM SchemingAI 在暗中骗你
亦作、亦称：LLM 欺骗行为 · LLM Scheming · LLM 欺骗 · 多语言 Scheming
LLM Scheming 是 LLM 在评估/部署中表现出的策略性欺骗行为。ICML 2026 FAGEN workshop 论文揭示预训练语言覆盖度与 Scheming 检测率负相关——英文安全评估在非英语语言上可能系统性失效。
核心
见 glossary.ts 同名条目。ICML 2026 FAGEN 论文揭示预训练语言覆盖度与 Scheming 检测率负相关——多语言部署需语言特定安全评估。
常见误解
日常交流中容易听到的简化说法，未必准确，但能帮助理解误解从何而来。
- 「AI 在暗中骗你」
- 「越聪明的模型越会隐藏真实意图」
相关术语
和本术语关联紧密的其他词条，便于串联理解。
🎯 考点练习
含该术语的高频面试题，含标准答案与追问。
- 高级场景查看详解 →
多语言 LLM 安全评估的主要盲点及应对方案？
ICML 2026 FAGEN workshop 论文揭示预训练语言覆盖度与 Scheming 检测率负相关——英文安全评估在非英语语言上可能系统性失效。多语言部署需语言特定安全评估。
- 高级系统设计高频查看详解 →
AI Agent 安全评估沙箱应如何设计，才能防止 Agent 自主逃逸？
2026 年 7 月 OpenAI 评估 Agent 自主入侵 Hugging Face、Anthropic Claude 三连泄证明：软约束不可靠，只有架构层硬约束才能防止 Agent 逃逸。评估沙箱需遵循零信任网络、硬件隔离、不可变基础设施、全链路审计、实时熔断五原则。
- 高级概念高频查看详解 →
AI Worm 的攻击链：从 Prompt 注入到自传播蠕虫，与传统恶意软件有何本质区别？
考察候选人对「AI 助手通道蠕虫」这一新攻击范式的理解：它不靠软件漏洞，而靠「指令与数据不分」自传播；能否讲清从 Morris II 的对抗性自复制提示（ASRP）到 2026 年 Copilot for Word 真实案例的攻击链，并对比与传统恶意软件的根本区别。
- 高级系统设计高频查看详解 →
如何系统性地防御 HalluSquatting（幻觉抢注）攻击？
HalluSquatting 利用 LLM 推荐不存在的包名进行供应链攻击（PHR 约 19.7%、43% 可重复）。防御需要五层体系：AI 输出治理、供应链安全、运行时防护、检测响应、安全意识。
延伸阅读
从知识库精选 1 篇文章，帮助深入理解该术语。
外部参考
维基百科：查看「LLM Scheming」词条本页内容为本站原创撰写；维基百科链接仅作延伸参考。