控制 AI 调用成本的新工具
2026 年 5 月，Simon Willison 发布 datasette-llm-limits。
功能特性
- 速率限制:为 LLM API 调用设置每秒/每分钟请求上限
- 用量管理:跟踪和限制每个用户或每个会话的 Token 使用量
- IP 限速:基于 IP 地址的速率限制
行业背景
随着 AI API 调用量的爆炸性增长，成本管理成为开发者的核心关切。
来源: Simon Willison's Weblog
链接: https://simonwillison.net/