MindsDB

AI 友好的网页抓取 API，支持 URL → Markdown/结构化数据，110K+ stars。专为 LLM 应用设计，自动处理 JS 渲染、分页、反爬，是 RAG 系统的理想数据源

🎯网页自动化与数据采集

自适应 Web 爬取框架，52K+ stars。从单请求到全规模爬取全覆盖，智能处理反爬、动态渲染和复杂页面结构，是 AI Agent 数据采集的瑞士军刀

🎯AI Agent 数据采集、舆情分析数据源爬取、竞品监控自动化

金融数据分析平台，66,139+ stars。开源金融数据基础设施，提供股票、加密货币、宏观经济等全方位数据查询和分析能力，支持 Python SDK 和终端使用

🎯金融数据采集与分析、股票与宏观数据查询

让你的 AI Agent 拥有浏览全网的能力——一个 CLI 即可读取和搜索 Twitter、Reddit、YouTube、GitHub、B站、小红书等平台内容，无需 API 费用。

🎯AI Agent 的互联网浏览器——让大模型直接读取社交媒体和公开网页内容，适合需要实时数据采集的智能体

中文社交媒体爬虫工具，50K+ stars。支持小红书、抖音、快手、B 站、微博、贴吧、知乎等平台的笔记/视频/评论爬取，是中文互联网数据采集的标杆项目

🎯数据爬取与 ETL 处理

AI 驱动的舆情监控与趋势分析助手，58K+ stars。支持多平台信息聚合、RSS 订阅、智能预警，帮助打破信息茧房，还原舆情全貌并预测未来走向，辅助决策

🎯AI 舆情监控、行业趋势分析与情报收集系统