使用 Ollama 构建您自己的私人 ChatGPT

介绍

创建一个完全私密的 AI 聊天机器人，类似于 ChatGPT，能够在您的计算机上本地运行，而无需活跃的互联网连接。为此，我们将使用 Ollama，这是一个轻量级框架，用于在本地计算机上运行 LLM 模型。

Ollama 拥有一个开源 LLM 模型库，可以免费使用。一些流行的开源 LLM 模型包括 Llama 和 Mistral，适合一般用途。还有其他一些专门的模型，经过训练以更好地完成特定任务。例如，Phind 和 Deepseek 模型专注于编程。您可以在 Ollama 中加载任何您喜欢的开源模型，并完全私密地使用，无任何限制。

安装和使用 Ollama 及 Open WebUI 的步骤

步骤 1：下载并安装 Ollama

从 https://ollama.com/download/windows 下载 Ollama。下载完成后，右键点击 OllamaSetup.exe，以管理员身份运行。

安装完成后，Ollama 就可以在您的计算机上使用了。桌面托盘区域会出现一个 Ollama 图标。

步骤 2：下载并安装 Open Web UI

接下来的步骤是为 Ollama 安装 Open Web UI，以便我们可以获得与 ChatGPT 相似的用户界面。

您可以在这里找到 Open WebUI 的文档：https://github.com/open-webui/open-webui

要安装 Open Web UI，首先需要在计算机上安装 Docker。

访问 https://docs.docker.com/desktop/install/windows-install/ 下载 Windows 的 Docker 安装包。下载完成后，右键点击安装文件，以管理员身份运行。这将会在您的计算机上安装 Docker。

Docker 安装完成后，打开 Docker，完成初始设置，并保持其在后台运行。

在 Windows PowerShell 中运行以下命令，以在本地计算机上部署 Ollama 的 Open WebUI。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

步骤 3：登录 Open WebUI

安装完成后，访问 http://localhost:3000。首次使用时，您需要通过“注册”选项创建一个本地账户。

注册后，您将进入 Open WebUI 的主页，界面与 ChatGPT 类似。

步骤 4：安装 LLM 模型

现在 Open WebUI 已准备就绪，我们需要安装一些 LLM 模型来进行使用。访问 https://ollama.com/library，选择任何可用的 LLM 模型。在本教程中，我将安装“Llama 3.2”，这是一个很好的通用 LLM 模型。

我将在 Windows PowerShell 中运行以下命令来下载并安装 Llama 3.2 模型。

Ollama run llama3.2

模型安装完成后，返回 Open WebUI 窗口并刷新页面。我们下载的 Llama 3.2 模型现在应该出现在“选择模型”下。选择它，我们现在可以使用自己的私密 AI LLM 聊天机器人，界面与 ChatGPT 非常相似。

探索 https://ollama.com/library，寻找各种不同的 LLM 模型，您可以用于不同的目的，尽情享受吧！