📈 适合初学者的 5 大 RAG 开源库 🚀

RAG简介

1.LLMWare​

2. MongoDB

3. Milvus 向量数据库

4.拥抱脸

5.Llama.cpp​

RAG简介

作为开发人员，您今天可以学到的最有价值的技能之一是学习如何使用大型语言模型 (LLM) 构建检索增强生成 (RAG) 应用程序。

为什么？

因为世界上的数据量超过 64 ZB，这还不包括书籍或实体文档等实体数据。（供您参考，1 ZB 等于 1 万亿 GB。）

不仅如此，全球90%的数据都是在过去两年内产生的，而且数据量每两年就会翻一番。所以，企业基本上就像在日益庞大的数据山中遨游。

公司将如何访问和使用所有这些数据？

如今，每个人都听说过利用检索增强生成 (RAG) 技术利用人工智能查找信息。能够访问和使用不断增长的数据量是每家公司都需要的一项关键技能。

即使您知道 RAG 基本上是一种描述将文档或知识链接到 LLM 的工作流程的简便方法，但许多开发人员还没有亲自尝试或试验过这种方法。

互联网上有很多图书馆列表，但如何开始呢？

以下是帮助您开始使用 RAG 的最佳库的简短列表。

1.LLMWare​

在 LLMWare 中，您可以上传文档，只需几行代码即可开始检索信息。它处理 RAG 所需的整个流程：文档提取、解析、分块、索引、嵌入、存储到向量数据库，以及链接到 LLM 以检索答案。

LLMWare 的设计理念是集成化和端到端的，因此所有这些步骤都可以开箱即用。它将所有组件组装起来，无需您费心。

LLMWare 让入门变得非常简单和容易：

• 仅用几行代码即可通过端到端示例实现 RAG 工作流程
• 创建库并无缝加载文件
• 轻松生成嵌入
• 轻松进行语义搜索
• 利用任何 Hugging Face 模型或 GPT-4 等闭源模型来回答数据中的问题
• 示例包括无需 GPU 的 RAG 模型

免责声明：我是 LLMWare 的创始人

⭐️ 星级 LLMWare ⭐️

2. MongoDB

MongoDB 是一款广泛使用的开源 NoSQL 数据库程序。它属于面向文档的数据库类别，这意味着它以类似于 JSON 文档的格式存储和组织数据。MongoDB 的设计灵活且可扩展，适用于各种应用程序和行业。

MongoDB 等数据库是 RAG 中非常重要的一步，因为它们存储在嵌入之前从文档或知识库中提取的信息，包括重要的元数据。

⭐️ 星级 MongoDB ⭐️

3. Milvus 向量数据库

Milvus 是一个开源向量数据库，旨在支持嵌入式相似性搜索和 AI 应用。Milvus 使非结构化数据搜索更加便捷，并且无论部署环境如何，都能提供一致的用户体验。

Milvus DB，或类似的向量数据库，是 RAG 中的关键步骤。它存储用于相似性搜索的向量嵌入。该数据库允许人们用自然语言提问并检索相关结果。如果没有良好的嵌入和向量数据库，LLM 模型将无法接收正确的文本块进行读取。

⭐️ 星之米尔维斯⭐️

4.拥抱脸

如果你还没去过 Hugging Face，那你真的应该去看看。它是所有开源模型的聚集地，并且正独自拯救世界，使其免于 AI 垄断。就像 Github 之于开源项目一样，Hugging Face 也同样是开源模型的聚集地。这里有超过 45 万个模型，全部免费，供任何想要使用的人使用。

Hugging Face 的 Transformers 库是一个 Go-To 库，它
提供了数千个预训练模型来执行文本、视觉和音频等不同模态的任务。

这些模型可以应用于：

• 文本，用于文本分类、信息提取、问答、摘要、翻译和文本生成等任务，支持 100 多种语言。
• 图像，用于图像分类、对象检测和分割等任务。
• 音频，用于语音识别和音频分类等任务。

Transformer 模型还可以结合多种模式执行任务，例如表格问答、光学字符识别、从扫描文档中提取信息、视频分类和视觉问答。

⭐️拥抱星星的脸⭐️

5.Llama.cpp​

没有 GPU？没问题！
Llama.cpp 来帮忙！

llama.cpp 的主要目标是在 MacBook 上运行使用 4 位整数量化的 LLaMA 模型。

• 无依赖关系的纯 C/C++ 实现
• Apple 芯片一流公民 - 通过 ARM NEON、Accelerate 和 Metal 框架进行优化
• AVX、AVX2 和 AVX512 支持 x86 架构
• F16/F32混合精度
• 2 位、3 位、4 位、5 位、6 位和 8 位整数量化支持
• CUDA、Metal 和 OpenCL GPU 后端支持

量化后，更大的模型可以在 CPU 上运行，且性能损失极小。您可以查找 GGUF 版本的模型，并尝试使用 LLMWare 或其他 RAG 工作流程。

⭐️星骆驼.cpp⭐️

这是一个非常基础的 RAG 入门概述。如果您想要一个集成的解决方案，让所有这些库无缝协作，一站式服务，请访问 LLMWare 的 GitHub 库，那里有超过 50 个优秀的示例可以帮助您入门。

在 discord 中找到我们- 我们很乐意听到您的声音！

请务必访问我们的网站llmware.ai以获取更多信息和更新。