PrivateGPT - 在本地文档上离线运行“ChatGPT”

PrivateGPT是一个 Python 脚本，用于使用 GPT4ALL（一个开源大型语言模型）查询本地文件。它的设置非常简单：

1. 克隆 repo
2. 下载 LLM - 大约 10GB - 并将其放在名为 的新文件夹中models。
3. 将您想要查询的文件放入source_documents文件夹中 - 默认情况下，其中包含最后一个美国国情咨文的文本。
4. 运行ingest.py脚本 - 这可能需要很长时间。不过在这台 MacBook M1 上，它只用了 2 分钟。
5. 运行privateGPT.py脚本，您会在终端中看到提示：

我问它美国总统对乌克兰局势有何看法，它给了我一份概要以及这些信息出自文件的哪个部分。

整洁的！