移动端与桌面端Deepseek知识库搭建全攻略

2025-02-15 21:36:27 来源: 大科技网 点击数:
手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

自去年年末起,我国AI大模型领域风起云涌,幻方量化旗下深度求索公司研发的Deepseek以其非凡表现,在上月引起了人工智能界的广泛关注。这家杭州企业将我国AI技术推向了世界顶尖水平,并于2025年1月20日发布了Deepseek R1大模型开源版。近期,关于Deepseek的新闻频出,包括遭受黑客攻击、限制国外手机号注册等问题。与此同时,OpenAI首席执行官Sam Altman在社交平台X上公布了ChatGPT的未来规划,承诺为所有用户提供免费版ChatGPT的无限聊天权限,并计划推出ChatGPT-4.5和ChatGPT-5。这些消息侧面证实了Deepseek R1已达到与ChatGPT-4相媲美的国际水平。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

本文将介绍如何在安卓手机和桌面设备上分别部署本地运行的Deepseek R1模型,并搭建知识库。为何选择本地部署AI大模型呢?本地部署Deepseek具有诸多显著优势。首先,数据隐私得到更好保障,用户私人数据无需上传至云端或第三方服务器,大幅降低数据泄露风险。其次,本地部署能显著提高响应速度,无需依赖网络连接和远程服务器,尤其在网络不稳定时,用户体验更加流畅。此外,离线使用是另一个重要优势,用户可在无网络环境下享受模型服务,适用于高安全性或特殊场景。最后,本地部署允许用户建立自己的数据库,实现对数据的完全控制和管理,进一步提高数据处理的灵活性与安全性。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

当然,与此同时,运行DeepseekAI大模型需要强大的计算资源,如高性能CPU、GPU,以及大容量内存和存储设备。这对于普通笔记本电脑而言,可能需要升级硬件,增加成本和复杂性。部署完成的R1模型在推理能力、网络资源整合等方面肯定不如直接从网页访问回答的准确和智能。

接下来,我们将分别介绍安卓端和桌面端部署Deepseek R1模型的步骤。

安卓端部署Ubuntu环境

首先,准备相关工具。进入Github官网,搜索Termux,找到最新APK应用包并进行安装。Termux是一款终端模拟器应用程序,专为Android系统设计,提供完整的Linux环境,允许用户在Android设备上运行Linux命令和工具,无需root权限。后续将通过Termux环境部署Deepseek R1模型。建议使用骁龙8 Gen2以上的设备进行部署,以保证性能。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

进入Termux软件,输入termux-change-repo指令并运行:

应用程序内会弹出一个窗口,选择运行单个镜像文“Single mirror Choose a single mirror to use”,并点击:

在下一个界面,找到清华大学镜像文件源(Tsinghua University),如果没有找到,可以通过双手捏和将显示界面缩小找到,随后同样点击:

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

此时重新回到命令行界面,输入“pkg update && pkg upgrade”,更新升级至最新的软件包,等待完成后,输入“y”,

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

下一步,部署Ubuntu环境,需要一定的网络条件,分别安装顺序执行以下操作部署安装Ubuntu工具,pkg i proot-distro,此命令使用pkg包管理器安装proot-distro工具,proot-distro install ubuntu:使用proot-distro工具安装Ubuntu发行版,安装完成后,再输入proot-distro login ubuntu:登录到已安装的Ubuntu环境,进入Ubuntu的命令行界面。完成以上操作后在命令行界面会有“root@localhost:~#”,即表示成功进入Ubuntu环境,此次下载部署在本地的Deepseek R1模型即将运行在此环境中。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

下载Deepseek模型

在上一步最后的Ubuntu环境命令行界面,输入“curl -fsSL https://ollama.com/install.sh | sh”,通过ollama官网下载Deepseek模型,等待进度条完成,需要一定的网络条件,随后进入如下界面:

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

在分别执行“OLLAMA_HOST=0.0.0.0”、“OLLAMA_ORIGINS=*”、“ollama serve”三个指令,更改接口并运行ollama服务。此时,回到桌面,长按Termux图标,点击“New session”,回到应用内输入两个指令,启动Ubuntu环境,并下载ollama模型,回到Termux应用,输入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”,再输入回车,模型开始下载,等待完成即可。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

不建议下载过于复杂的模型,数字越大意味着部署的模型就越聪明,同时所需的手机性能也会越高。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

通过Chatbox与Deepseek交互

模型下载完成后,不要关闭Termux进程的后台,进入Chatbox官网,下载安卓版本APK文件完成应用安装,打开应用后,点击“使用自己的API Key或本地模型”,模型提供方依次选择Ollama API,模型选择“Deepseek-r1:1.5b”,可以对模型进行身份设定,方便回答用户问题,随后关闭Termux和Chatbox应用。

每次启动Chatbox之前,重新打开Termux进入Ubuntu环境并运行ollama模型,输入以下两个指令:“proot-distro login ubuntu”和“ollama serve”,回到Chatbox,即可与Deepseek交流了。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

受限于手机性能,可能需要一定的响应时间,请耐心等待,以下是实际体验,为了避免手机清理后台,建议将Termux锁定在后台。ok,以上为手机端部署Deepseek的全部内容了。

桌面端Deepseek建立知识库

在手机端部署本地Deepseek大模型相对复杂,但只要按照步骤操作,实际上可以很快完成部署。与此相比,桌面端的Deepseek部署要简单得多。桌面端不需要建立额外的环境,Windows和Mac端的步骤大致相同,因此本文将重点介绍如何通过本地Deepseek R1模型在Mac端搭建自己的知识库。

下载Ollama模型

首先,访问Ollama官网,选择并下载适合Mac系统的版本。下载完成后,按照提示完成安装,安装后将解压得到的Ollama程序拖动到“应用程序”中。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

接着,打开Mac系统的“终端”应用(Windows用户则打开CMD),在终端中输入需要下载的Ollama模型对应的代码。具体的代码可以参考Ollama官网提供的说明。如果电脑配置较强,可以选择下载较大的模型版本。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程 手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

需要注意的是,如果在下载过程中发现下载速度变慢,可以关闭当前的“终端”窗口,再重新打开并输入相同的指令。这样可以恢复更高的下载速度,并且下载进度会被保留,不会丢失。

搭建本地知识库

完成Ollama模型的下载后,接下来是搭建知识库。首先,访问“AnythingLLM”官网,根据操作系统下载并安装对应的版本。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

安装完成后,打开程序,选择“Ollama”作为模型提供方,并选择“8b(依据电脑配置)模型”。进入下一步时,跳过邮箱填写界面,直接创建一个新的工作区(Workspace)。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程 手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程 手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

创建工作区后,进入到对话界面。接下来,点击工作区“Test001”的设置按钮,进入“聊天设置”页面。在聊天提示框中对AI助手进行一些基本设定,以便模型能够更快速、更精准地回答用户的问题。同时,可以设置回答语言为中文,并保存这些设置。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

接下来,需要上传并嵌入知识库文件。小编通过AI创建了一家虚拟的游戏公司,并将公司简介整理成一个Word文档。在准备好文件后,返回“Test001”工作区,点击右侧的上传按钮,将文件上传至“My Documents”。选中该文件后,点击“Move to Workspace”,然后选择“Saved and Embed”以保存文件,最后执行“Pin to Workspace”操作。这些操作都会有提示,确保每个步骤都正确完成。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程 手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

测试和提问

知识库搭建完成后,回到对话框,在工作区“Test001”中选择“New Thread”创建一个新的对话框。此时,可以开始向模型提问与知识库相关的问题。大模型将根据文档内容做出准确回答,确保知识库的内容能够被有效利用。

手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程 手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程

(知识库内容)

(AI依据数据库的核心人员回答)

(AI依据数据库的回答)

总结

以上是手机端部署本地Deepseek的教程以及通过Mac端部署Deepseek R1大模型并建立本地知识库的完整教程。从下载模型、搭建知识库到最后的测试与提问,每一步都很关键,只要按照步骤操作,就能够顺利完成整个过程。希望这篇教程能够帮助大家顺利搭建属于自己的本地知识库,提升使用AI模型的效率和体验。

关键字:手机新闻手机部署本地 deepseek搭建知识库

责任编辑:Cyclone
Copyright © Science and Technology Daily, All Rights Reserved
科技日记 版权所有