Infinity: 适用于LLM应用的AI原生数据库

Infinity

3.5 | 165 | 0
类型:
开源项目
最后更新:
2025/09/30
资源描述:
Infinity 是一款专为LLM应用设计的AI原生数据库,提供极速的混合搜索,支持稠密嵌入、稀疏嵌入、张量和全文检索。百万级数据集查询延迟仅0.1毫秒。
分享:
LLM数据库
向量数据库
混合搜索
AI数据库

Infinity 概述

什么是 Infinity?

Infinity 是一个为大型语言模型 (LLM) 应用设计的 AI 原生数据库。它在密集嵌入、稀疏嵌入、张量和全文数据之间提供令人难以置信的快速混合搜索能力。这使得开发者能够构建需要高效数据检索和分析的高性能 AI 应用。

Infinity 如何工作?

Infinity 以其执行混合搜索的能力脱颖而出,它结合了各种数据类型以获得最佳结果。主要功能包括:

  • 难以置信的快速: 在百万级向量数据集上实现 0.1 毫秒的查询延迟,并在百万级向量数据集上支持高达 15K QPS(每秒查询数)。
  • 强大的搜索: 支持混合搜索,结合了密集嵌入、稀疏嵌入、张量和全文搜索,并具有过滤选项。
  • 丰富的数据类型: 处理各种数据类型,包括字符串、数值和向量。
  • 易于使用: 提供直观的 Python API 和无依赖的单二进制架构,从而简化了部署。

为什么选择 Infinity?

  • 性能: 通过令人难以置信的快速查询性能优化您的 LLM 应用。
  • 灵活性: 利用混合搜索功能有效地组合不同的数据类型。
  • 可用性: 通过直观的 API 和单二进制架构简化部署和开发。

主要功能

  • 混合搜索: 支持密集嵌入、稀疏嵌入、张量和全文搜索的组合。
  • 重新排序: 支持包括 RRF(倒数排名融合)、加权和以及 ColBERT 在内的重新排序器。
  • 数据类型: 支持字符串、数值、向量等。

如何使用 Infinity

Infinity 提供了直观的 Python API,使其易于集成到您的项目中。它的单二进制架构简化了部署。您可以访问 Infinity GitHub repository 获取文档和示例,从而开始使用。

Infinity 适合谁?

Infinity 非常适合构建需要高效数据检索和分析的 AI 应用的开发者和组织,特别是那些使用 LLM 和向量嵌入的开发者和组织。它适用于:

  • LLM 应用开发者: 构建具有快速混合搜索功能的高性能应用。
  • AI 研究人员: 试验不同的数据类型和搜索策略。
  • 数据科学家: 高效地分析和检索 AI 模型的数据。

通过提供顶级性能和高级功能,Infinity 使您能够有效地应对未来的 AI 应用挑战。加入 TwitterGitHubDiscord 上的社区。

"Infinity"的最佳替代工具

Agent Cloud
暂无图片
10 0

Agent Cloud是一个开源平台,用于构建和部署私有LLM聊天应用程序,使团队能够通过向量数据库的数据同步安全地访问和交互其数据。

LLM聊天应用
数据同步
向量数据库
Singlebase
暂无图片
41 0

Singlebase 是一个 AI 原生的 Firebase 替代品,为 AI 应用程序提供统一的后端。它在一个平台上提供向量数据库、NoSQL 数据库、身份验证、存储和集成的 AI 服务。

AI后端
向量数据库
Langflow
暂无图片
137 0

Langflow 是一个低代码 AI 构建器,用于创建和部署 AI 代理和 RAG 应用程序。它支持主要的 LLM 和向量数据库,通过可视化流程和可重用组件实现快速的 AI 工作流程开发。

低代码 AI
AI 代理构建器
Sagify
暂无图片
239 0

Sagify 是一个开源 Python 工具,可简化 AWS SageMaker 上的机器学习管道,提供统一的 LLM 网关,实现专有和开源大型语言模型的无缝集成,提高生产力。

ML部署
LLM网关
DataChain
暂无图片
321 0

发现DataChain,一个AI原生平台,用于策划、丰富和版本化多模态数据集,如视频、音频、PDF和MRI扫描。它通过ETL管道、数据血统和可扩展处理赋能团队,而无需数据复制。

多模态数据集
数据集版本管理
ETL管道
Infrabase.ai
暂无图片
388 0

Infrabase.ai 是一个发现 AI 基础设施工具和服务的目录。查找向量数据库、Prompt 工程工具、推理 API 等,以构建世界一流的 AI 产品。

AI 基础设施工具
AI 目录
OpenLIT
暂无图片
453 0

使用 OpenLIT 增强 APM,这是一个基于 OpenTelemetry 的开源平台。通过强大的界面中统一的跟踪和指标简化 AI 开发,优化 LLM 和 GenAI 的可观测性。

LLM 可观测性
AI 监控
Apify
暂无图片
388 0

Apify是一个全栈云平台,用于网络抓取、浏览器自动化和AI代理。使用预构建工具或构建自己的Actors进行数据提取和工作流自动化。

网络抓取
数据提取
浏览器自动化
xMem
暂无图片
360 0

xMem通过混合内存增强LLM应用程序,结合长期知识和实时上下文,实现更智能的AI。

LLM
内存管理
RAG
Agents-Flex
暂无图片
312 0

Agents-Flex是一个使用Java开发的简单轻量级LLM应用开发框架,对标LangChain。

LLM
Java
框架
Ragie
暂无图片
472 0

Ragie 是一款完全托管的 RAG 即服务,为开发人员提供简单的 API 和应用程序连接器,通过快速准确的检索实现最先进的生成式 AI 应用程序。

RAG平台
AI数据摄取
语义检索
Batteries Included
暂无图片
410 0

Batteries Included是一个自托管的AI平台,简化了LLM、向量数据库和Jupyter Notebook的部署。在您的基础设施上构建世界一流的AI应用。

MLOps
自托管
LLM
MyScale
暂无图片
460 0

MyScale:AI数据库融合向量搜索与SQL分析。以速度和效率从向量数据集中获取见解。

向量数据库
SQL
人工智能
LangSearch
暂无图片
407 0

LangSearch提供Web搜索API和语义重排序API,用于将LLM应用程序连接到清晰、准确的上下文。

Web搜索API
语义重排序
LLM