Ollama + GPT4All PDF: Local AI Deployment Guide PDF

本地部署流程【常规版】​ 方案一：gpt4all (适合入门用户)​ 网址： https://gpt4all.io ​ 特征：无需命令行，支持多种轻量级模型，适合基础推理任务​ gpt4all 部署步骤​ 第一步：安装 gpt4all​ （这里以Windows系统为例）​ 进入gpt4all官网： https://gpt4all.io ​ 选择适合的系统版本： Windows/macOS/Lin...

本地部署流程【常规版】​ 方案一：gpt4all (适合入门用户)​ 网址： https://gpt4all.io ​ 特征：无需命令行，支持多种轻量级模型，适合基础推理任务​ gpt4all 部署步骤​ 第一步：安装 gpt4all​ （这里以Windows系统为例）​ 进入gpt4all官网： https://gpt4all.io ​ 选择适合的系统版本： Windows/macOS/Linux 按常规软件安装步骤 完成安装 即可 第二步：下载 DeepSeek 模型​ 在gpt4all里点击 查找模型 ​  浏览可用的DeepSeek模型，选择并下载​ 第三步：开始对话​ 模型下载完成后，在左侧进入 对话 界面 点击 选择模型 ，从下拉列表选择 已有的模型 ​ 和AI进行对话，确认能够成功就结束了​ 方案二：Ollama + AnythingLLM 本地知识库 (适合进阶用户)​ Ollama 网址： https://ollama.ai ​ 配合Chrome插件Page Assist可实现图形界面对话。​ Page Assist 网址： https://chromewebstore.google.com/detail/page-assist- %E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84- web/jfgfiigpkhlkbnfnbobbkinehhfdhndo 或配合本地知识库工具AnythingLLM： https://AnythingLLM.com/ ​ 特征：功能强大，支持知识库，可扩展性强 Ollama 部署步骤​ 第一步：安装 Ollama​ （这里以Mac系统为例）​ 第二步：下载 DeepSeek & 嵌入模型​ 在Ollama里点击 Models 或者在搜索栏搜DeepSeek-R1​ 选择一个合适的模型（这里以1.5b为例）​ 复制命令，然后打开命令行直接粘贴进去然后回车，显示“success”就OK了​ 1 # 下载 DeepSeek 模型 ​ 2 ollama run deepseek-r1:1.5b 下载嵌入模型，在搜索栏搜索“nomic-embed-text”​ 1 # 下载嵌入模型 ​ 2 nomic-embed-text 再复制命令到终端里粘贴，就OK了​ 第三步：更改模型位置​ 1. 更改 Ollama 模型安装位置​ Ollama默认将模型安装在 C 盘，但许多朋友的 C 盘存储空间不足，这里教大家如何更改 Ollama 模型 的安装位置 首先进入设置，点击高级系统设置，再点击环境变量 点击新建，在变量名输入 Ollama_MODELS ，在下方“变量值”里输入你希望安装模型的位置。 ◦ 比如我想把模型装在D盘，我新建了一个文件夹 D:\Ollama\models ​ 2. 更改已下载模型的位置​ 如果有朋友已经把模型下载在了C盘，需要把已有的模型更换位置。​ 可以把 C:\Users\XX\.Ollama\models （XX是你的用户名）文件夹里的文件，移动到上一 步“变量值”填写的位置 D:\Ollama\models 。 AnythingLLM 部署步骤​ 第一步：安装 AnythingLLM​ 进入AnythingLLM主页点击“Download for desktop”，然后选择对应的系统，点击下载​ 第二步：配置 AnythingLLM​ 列表里选择Ollama，再选择模型​ 数据处理 和 用户调研，直接点击下一步和跳过就OK​  设置好工作区之后，修改一下界面语言，点击左下角扳手进入设置，把“Display Language” 换 成 “Chinese”​ 和AI对话测试一下，就OK了​ 第三步：数据投喂​ 还是在扳手图标的设置里，点开“人工智能提供商”的下拉菜单，选择Embedder首选项，提供商 选择“Ollama”，模型选择“nomic-embed-text:latest”，保存更改​  点击工作区旁边的上传按钮；然后点击上传文件，再选择文件，移动到右侧工作区，最后点击保存 最后验证一下，点击 New Thread，问它个相关的问题，看到回答的最下方显示有引用就OK了​