在群晖上安装GPT4Free

什么是 GPT4Free ?

GPT4Free 简称 G4F,是一个强大的大型语言模型命令行界面(LLM-CLI),旨在去中心化并提供免费访问先进人工智能技术的能力。G4F 的目标是通过提供用户友好和高效的工具,使人工智能民主化,并与最先进的语言模型进行交互。

GPT4Free 是一个通过逆向工程,调用第三方 ChatGPT 网站的 API 项目,让 OpenAI API 误以为它是从拥有已付费 OpenAI账户的网站(如搜索引擎 You.comWriteSonicQuoraPoe )发出的请求,从而达到使任何人都可以免费访问 GPT-4GPT-3.5 模型的目的。

OpenAI 曾要求下架免费 GPT4Free 项目,但一年过去了,目前这个项目还在 github

GPT4Free 是作为 PoC(概念验证),演示了具有多提供商请求的 API 包的开发,具有超时、负载平衡和流量控制等功能。

主要特征

  • 去中心化的AI访问G4F 提供免费访问先进语言模型的能力,促进 了AI 技术的民主化。

  • 多供应商支持G4F 与多个 AI 供应商无缝集成,确保可靠、高效的性能。

  • 稳健的架构G4F 的架构融合了超时、负载平衡和流量控制,以实现最佳性能和稳定性。

  • 用户友好的界面G4F 提供直观的命令行界面,使用户可以轻松地与语言模型进行交互。

  • 详尽的文档:提供全面的指南、教程和 API 参考,帮助您充分利用 G4F 的功能。

该项目仅用于教育目的。在使用前,请阅读官方的法律申明:https://github.com/xtekky/gpt4free/blob/main/LEGAL_NOTICE.md

安装

在群晖上以 Docker 方式安装。

在注册表中搜索 g4f ,选择第一个 hlohaus789/g4f,版本选择 latest

2024-05-08-wqshvz.png

2024-05-08-dqmbnp.png

常规设置

勾选 启用资源限制

  • CPU 优先顺序设为默认的

  • 内存限制设置为 2048

2024-05-08-dqmbnp.pngdocker 文件夹中,创建一个新文件夹 gpt4free,并在其中建一个子文件夹 data

.har 文件的生成,请看官方文档:https://github.com/xtekky/gpt4free#har-file-for-openaichat-provider

2024-05-08-ylcsxx.png启动会有一个过程,日志中看到下面的内容就可以开始访问了

2024-05-08-jzeuwd.png

在浏览器中输入 http://群晖IP:8080 就能看到内置客户端的聊天界面

2024-05-08-wygpne.png

下方是设置模型和服务商的

更详细的信息,请参考官方文档:https://github.com/xtekky/gpt4free#-providers-and-models