ShardingSphere

开源数据处理21k

ShardingSphere 是 Apache 顶级项目,提供分布式 SQL 能力,支持分库分表、读写分离、数据加密、分布式事务等功能。为大数据场景下的数据库可扩展性和安全性提供解决方案。20K+ stars。

🎯适用场景:大规模数据库分片、读写分离、数据加密和分布式事务

#Bigdata#Data-encryption#Data-pipeline#Database

📥 收录于 2026/6/3

📊 仓库数据

Stars20,727
Forks6,895
语言Java
更新2026/6/2

优点

  • Apache 顶级项目质量有保障
  • 功能完善分片加密事务
  • 支持多种数据库
  • Java 生态友好

⚠️ 限制

  • 主要是数据库中间件非 AI 专用
  • 配置复杂度高
  • 需要数据库运维经验

🔗 相关工具

TradingAgents

开源82k↑+9

github.com/TauricResearch/TradingAgents

多 Agent 金融交易框架,51,885+ stars。基于多 Agent 协作的金融交易决策框架,模拟分析师、风控师、交易员等角色协同制定交易策略

🎯多 Agent 金融交易决策、策略回测与量化投资研究

#金融交易#多Agent#量化投资#决策框架
语言Python
🍴 Forks15,963
📅 上线2024/12/28
🔄 更新2026/6/2
📥 收录2026/4/20

OpenBB Platform

开源68k↑+4

github.com/openbb-finance/openbb

金融数据分析平台,66,139+ stars。开源金融数据基础设施,提供股票、加密货币、宏观经济等全方位数据查询和分析能力,支持 Python SDK 和终端使用

🎯金融数据采集与分析、股票与宏观数据查询

#金融数据#股票分析#Python#开源
语言Python
🍴 Forks6,887
📅 上线2020/12/20
🔄 更新2026/6/2
📥 收录2026/4/20

Crawl4AI

开源68k↑+2

github.com/unclecode/crawl4ai

面向 AI Agent 的开源 Web 爬取框架,支持网页爬虫、Markdown 生成、JavaScript 执行和 LLM 结构化提取。为 Agent 提供可靠的 Web 数据获取能力,支持异步爬取、智能去重和内容清洗,是构建 RAG 系统和 Agent 知识库的关键基础设施

🎯企业知识库问答与 RAG 检索、网页自动化与数据采集

#开源#Web 爬取#Agent 基础设施#Markdown
语言Python
🍴 Forks6,906
📅 上线2024/5/9
🔄 更新2026/6/2
📥 收录2026/4/15

Scrapling

开源59k↑+40

github.com/D4Vinci/Scrapling

自适应 Web 爬取框架,52K+ stars。从单请求到全规模爬取全覆盖,智能处理反爬、动态渲染和复杂页面结构,是 AI Agent 数据采集的瑞士军刀

🎯AI Agent 数据采集、舆情分析数据源爬取、竞品监控自动化

#Web 爬取#自适应#反爬#数据采集
语言Python
🍴 Forks5,694
🔄 更新2026/6/2
📥 收录2026/5/22

TrendRadar

开源59k↑+2

github.com/sansan0/TrendRadar

AI 驱动的舆情监控与趋势分析助手,58K+ stars。支持多平台信息聚合、RSS 订阅、智能预警,帮助打破信息茧房,还原舆情全貌并预测未来走向,辅助决策

🎯AI 舆情监控、行业趋势分析与情报收集系统

#舆情分析#多平台聚合#RSS#智能预警+1
语言Python
🍴 Forks24,482
🔄 更新2026/6/2
📥 收录2026/5/22

Qlib

开源44k↑+1

github.com/microsoft/qlib

AI 量化投资平台,41,008+ stars。微软开源的 AI 量化投资研究平台,提供从数据处理、模型训练到回测的完整量化投资工作流

🎯AI 工作流编排与自动化、数据采集与 ETL 处理

#量化投资#AI#金融#回测
语言Python
🍴 Forks6,923
📅 上线2020/8/14
🔄 更新2026/6/2
📥 收录2026/4/20