本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

近期,DeepSeek-R1凭借其卓越性能迅速走红。它不仅具备与OpenAI模型相媲美的强大能力,还支持本地及私有化部署。用户可以实现离线使用、定制优化,同时确保数据仅存储于本地,不会上传第三方云端服务器或对外公开。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

接下来,我们将带大家快速本地私有化部署DeepSeek-R1模型,并实现远程访问、远程调用。整个过程无需复杂操作,也无需依赖云服务器,就能轻松打造专属AI助手或资料库。

我们只需通过Ollama快速部署DeepSeek-R1,并借助贝锐花生壳内网穿透或贝锐蒲公英异地组网实现远程访问。最终,使用浏览器的Page Assist Web UI插件,我们就可以随时随地远程调用本地私有化部署的DeepSeek-R1模型。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

一、利用Ollama本地私有化部署DeepSeek-R1

首先,进入Ollama官网,下载系统对应的客户端,根据引导一键安装即可。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

随后,打开命令提示符,参考命令“ollama run deepseek-r1:1.5b”一键下载、安装DeepSeek-R1模型。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

目前可选1.5B、7B、8B、14B、32B、70B、671B参数大小的模型,参数越大性能越强,但是对于显卡和显存的要求也越高,通常4GB显存可选1.5B模型、8G可选7B、16G可选14B。

如需更换模型保存位置,可在开始菜单搜索“环境变量”,在“系统变量” 或“用户变量” 中点击“新建”,变量名填入“OLLAMA_DATA_DIR”,变量值填入需要保存的位置。

之后,开启Ollama局域网访问。同样在开始菜单搜索“环境变量”,在“系统变量” 或“用户变量” 中点击“新建”,变量名填入“OLLAMA_HOST”,变量值填入“0.0.0.0”,并重启Ollama。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

二、实现本地私有化部署的DeepSeek-R1模型远程访问

本地私有化部署DeepSeek-R1后,如需实现远程访问,可以使用以下两种方式,任选其一即可,操作方式都非常简便。

如需多人共享或公开访问,可使用贝锐花生壳内网穿透,无需公网IP就能生成固定域名形式的远程访问地址。

个人远程访问或公司、团队内部使用,也可使用贝锐蒲公英异地组网,贝锐蒲公英相当于将多台异地设备组建成虚拟局域网,从而实现互联互通,同样无需公网IP、无需复杂配置,就能实现远程访问。

方式1:贝锐花生壳内网穿透搭配Page Assist Web UI插件实现远程访问

搭配贝锐花生壳内网穿透远程访问,只需下载系统对应的花生壳客户端,注册贝锐账号并登录。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

然后,进入花生壳云管理平台,填写运行Ollama主机的局域网IP及默认端口号“11434”,即可一键生成固定的远程访问地址。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

之后,如果需要远程访问本地私有化部署的DeepSeek-R1模型,Chrome或是Firefox浏览器添加Page Assist Web UI拓展程序。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

进入Page Assist Web UI的Ollama设置,Ollama URL中填写贝锐花生壳生成的固定远程访问地址并保存。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

最后,在RAG设置中选择部署好的DeepSeek-R1模型并保存,即可随时实现远程访问和调用。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

方式2:贝锐蒲公英异地组网搭配Page Assist Web UI插件实现远程访问

搭配贝锐蒲公英异地组网远程访问,需要在运行Ollama的主机中下载、安装蒲公英客户端,注册贝锐账号并登录。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

如需远程访问,同样需要在设备中下载、安装蒲公英客户端,并用同一个贝锐账号登录,彼此之间就可以自动组网。

此外,也可登录贝锐蒲公英的云端管理平台,根据提示添加、创建组网成员,通过组网成员的UID和预设密码,登录贝锐蒲公英客户端实现组网,详细教程或是搭配蒲公英组网硬件可搜索贝锐蒲公英官网查看。

之后,Chrome或是Firefox浏览器同样添加Page Assist Web UI拓展程序,并进入Page Assist Web UI的Ollama设置,Ollama URL中填写Ollama主机的蒲公英虚拟IP以及Ollama默认端口号“11434”。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

最后,在RAG设置选择部署好的DeepSeek-R1模型并保存,即可随时实现远程访问和调用。

本地部署DeepSeek R1+贝锐蒲公英异地组网,随时随地远程访问

总体来说,通过上述步骤,我们不仅成功实现了DeepSeek-R1模型的本地私有化部署,还借助贝锐花生壳内网穿透和贝锐蒲公英异地组网,轻松解锁了远程访问。整个过程简单高效,无需复杂操作,也无需依赖云服务器,即可打造专属的AI助手或资料库。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

Baidu
map