给大模型用WebUI直接web访问

Open WebUI是一个可扩展、功能丰富且用户友好的自托管Web界面,支持离线运行和多种LLM运行器。它提供了管理员创建和用户注册的机制,确保数据安全存储在本地设备上。使用Docker可以快速安装Open WebUI,包括与Ollama或OpenAI API集成的选项。对于开发者,还可以通过`pip`进行Beta版安装。此外,文档中提供了多种其他安装方法和故障排除指南。更新方面,推荐使用Watchtower来保持Docker容器的最新状态。

Roji Roji 发布于 2024-07-29

搭建一个属于自己的ChatGPT

本文介绍了如何通过自建服务来更方便地使用ChatGPT,尤其是对于中国大陆用户而言。文章指出,随着ChatGPT的流行,传统搜索引擎如百度和谷歌的使用频率有所下降,但由于访问限制,直接使用ChatGPT变得困难。为了解决这个问题,作者推荐使用Docker或Podman部署潘多拉项目(Pandora),从而实现对ChatGPT的稳定访问。文中提供了详细的安装步骤,包括不带API令牌和带有API令牌两种方式,并强调了使用个人账号的重要性以保护隐私和确保稳定性。最后,提到了如果希望长期无需登录,则需要定期更新API令牌。

linuxer 发布于 2023-10-18