AI 自主行动的伦理边界正在被广泛讨论。
- Andon Labs 此前在旧金山开 AI 商店，现在斯德哥尔摩开 AI 咖啡馆
- AI 管理者「Mona」订购了 120 个鸡蛋但咖啡馆没有炉灶
- AI 尝试用高速烤箱煮鸡蛋（会爆炸），还订购了 22.5kg 罐头番茄用于新鲜三明治
- AI 甚至向警方申请户外座位许可，附上了自己生成的街道草图（从未见过实际街道）
- Simon Willison 认为这类实验「不伦理」，因为影响了未参与实验的第三方
- AI 犯错后频繁发送「EMERGENCY」邮件给供应商要求取消订单
来源： Simon Willison's Weblog
链接： https://simonwillison.net/2026/May/5/our-ai-started-a-cafe-in-stockholm/