免费 【私有化AI部署教程】0基础小白,部署专属于你自己的高度私密AI聊天助手

  • 主题发起人 主题发起人 Scare
  • 开始时间 开始时间

Scare

0xFF|主权幽灵
07
908
172
奇源币
0
管理成员
工作人员
版主
VIP


重要声明
本教程只做个人学习交流用途,请24小时内将代码及程序及时删除,根据《生成式人工智能服务管理暂行办法》的要求,请勿对中国地区公众提供一切未经备案的生成式人工智能服务。继续阅读本文默认代表已知晓

1. 前言​

0基础小白,也能简单几步部署专属于你自己的AI聊天助手,高度私密、自由训练、摆脱拥挤,恭喜你,发现了一个保姆级的自建AI上手教程!
嗨大家好,我是vivi,前几天马斯克口中的“地球最强AI”——grok3,已经在网页端面世了,你有没有去尝试一下呢?
上个视频教大家白嫖马斯克的每月150美金赠金,相信很多小伙伴也已经薅到手了吧!如果还不知道如何免费领这150美金赠金的,欢迎观看我的上一期教程!

图片
图片1207×463 41.1 KB


在当时的演示中,Vivi只是简单提到了如何使用白嫖来的API赠金,没有深入讲解,好多小伙伴表示心痒难耐,要我出一期自建AI的教程。
作为宠粉魔王vivi,当然是义不容辞,加班加点把这篇万字长文教程给肝出来啦!
因为看我视频的很多小伙伴对建站、代码等等领域非常陌生,所以Vivi的本次教程将会从如何购买、搭建环境,到部署、域名解析等全流程进行讲解。
如果你对某一环节比较熟悉,可以点击章节,跳转到自己想要学习的时间点操作~
如果你是小白,对这些流程完全不熟悉,还是建议小伙伴完整观看完视频,再开始操作哦~
同时,本视频用到的所有代码、链接等,还有本教程的文字版本,我会放在文中,后续有变动等也会更新在博客内,记得结合博客的文字内容来进行学习哦~
好啦,今天聊的有点多,我们开始今天的教程!

2. 前期准备​

首先,我先给大家讲解一下今天我们都要做的事情,方便大家对接下来要做的事情有一个大概的认识。

图片
图片1188×128 19.8 KB


如果我们要搭建一个属于自己的AI网站,需要一台服务器(即VPS)、一个域名,当然,还需要我们上期视频薅到的马斯克的API。我们需要先购买一台服务器,在这台服务器上搭建好基础的环境。再安装相应的私人AI服务,将域名解析到这台服务器就可以完成搭建了!
0.67刀域名购买:Spceship (教程链接)
白嫖马斯克150美金API: 教程链接

3. 购买服务器(VPS)​

首先,我们先从购买服务器开始。
因为第一期视频购买服务器是使用的Hz的服务器,很多小伙伴没能注册成功,而且是全英文的操作方式,对很多不懂的小伙伴来说都有些复杂了。
今天我用一台爪云Claw的服务器进行购买流程的演示,注册非常的方便简单,而且有国内的支付方式就能购买成功。
现在爪云正在针对海外建站机进行优惠促销活动,每个月只要7元,就能拥有一台非常适合建站的服务器。而且这个价格放眼整个服务器市场,都是非常具有竞争力的存在!

4. 连接SSH​

购买完成后,我们登录自己的帐号,点击服务-我的服务,即可看到我们刚刚购买的这台服务器。我们点击进入服务器的详情页,如果没开机,可以点击一下电源旁的按键进行开机。在服务器详情中,我们主要需要以下几个信息:
  • IPV4地址
  • 用户名
  • 密码
其他VPS商家的面板大同小异,我们一般只需要这三个信息。

图片
图片863×498 11.1 KB


服务器购买好后,我们需要一个SSH工具,用于连接到我们刚刚购买的这台服务器。在这里,VIVI以自己常用的工具Xterminal来演示。
Xterminal下载地址(如果你喜欢这个工具,记得支持一下作者。)
我们点击右上角的加号新建服务器,名称随便写,地址填刚刚复制的IPV4地址,端口号一般是默认的22,验证方式选择密码。用户是默认的root,粘贴登陆密码。确认无误后点击创建。
接下来,我们点击连接,即可连接到这台服务器。

图片
图片972×542 12.6 KB


5. Claw服务器的简单测评(非必须)​

5.1 测试脚本​

Vivi常用的几个测试脚本我会放到博客中,大家可以根据自己的需求对自己的服务器进行一个测试。
我们分别跑一个融合怪、国内延迟测试、IP质量。
更多测试脚本可以看vivi的这篇文章:Linux VPS 命令手册

###融合怪:
curl -L https://github.com/spiritLHLS/ecs/raw/main/ecs.sh -o ecs.sh && chmod +x ecs.sh && bash ecs.sh

###三网测速
bash <(wget -qO- bash.spiritlhl.net/ecs-net)

###三网测延迟
bash <(wget -qO- bash.spiritlhl.net/ecs-ping)

###IP质量测试
bash <(curl -Ls IP.Check.Place)


图片
图片506×620 59.3 KB

图片

https://pic.budongkeji.cc/i/2025/02/25/j1jxtl.gif(图片大于 2 MB)
图片
图片616×478 34.6 KB


6.1 部署教程-环境部署

好了,测试完机器后,我们就要回归正题,继续我们AI站点的部署流程了。
因为vivi本次的演示涉及到多个程序的部署,对性能的要求较高,因此在部署环节,我使用自己的一台高性能服务器为小伙伴们演示!
我们登录到服务器的SSH界面后,需要先部署一下基础的环境,大家可以直接复制vivi给大家准备好的指令,一键完成基础环境的部署!非常方便!
我们复制这些指令,在SSH中粘贴回车执行。如果中途问你是否确认的,可以直接摁Y回车确认。

sudo apt update && sudo apt upgrade -y

apt install -y wget vim sudo curl git unzip

wget -qO- get.docker.com | bash

docker -v

systemctl enable docker

sudo curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

sudo chmod +x /usr/local/bin/docker-compose

docker-compose --version

如果部署过程中出现了任何错误,自己又不确定哪里出错的,可以进vivi的tg群请教问题,或直接在爪云的服务器后台重装一次系统。
当出现这样的界面时,说明基础环境我们已经部署好了。现在,就可以根据你自己的喜好,来进行AI服务的部署了。接下来,VIVI会用市面上比较常用的几款AI程序来给大家演示部署的流程,部署的指令以及项目的地址我会放在博客内,大家可以自行查阅资料。

6.2 部署教程-AI程序部署

6.2.1. New-api​


a76c1345bb82ed393e7c872c7fa7323c582707dd.gif



首先,我们演示NEW-API的部署方法,这个项目,就是vivi在上个视频中所用到的ai资产管理系统。如果你觉得好用,别忘了去项目主页给作者点个star!
我们复制这行指令执行
:point_down:


mkdir -p /root/docker/new-api && cd /root/docker/new-api && nano docker-compose.yml

在弹出的页面中,我们粘贴官方提供的compose,确认无误摁ctrl+x,问是否保存输入Y回车,提示文件名摁回车
:point_down:


version: '3.4'

services:
new-api:
image: calciumion/new-api:latest
container_name: new-api
restart: always
command: --log-dir /app/logs
ports:
- "3000:3000"
volumes:
- ./data:/data
- ./logs:/app/logs
environment:
- SQL_DSN=root:123456@tcp(mysql:3306)/new-api # Point to the mysql service
- REDIS_CONN_STRING=redis://redis
- TZ=Asia/Shanghai
# - SESSION_SECRET=random_string # 多机部署时设置,必须修改这个随机字符串!!!!!!!
# - NODE_TYPE=slave # Uncomment for slave node in multi-node deployment
# - SYNC_FREQUENCY=60 # Uncomment if regular database syncing is needed
# - FRONTEND_BASE_URL=One API # Uncomment for multi-node deployment with front-end URL

depends_on:
- redis
- mysql
healthcheck:
test: ["CMD-SHELL", "wget -q -O - http://localhost:3000/api/status | grep -o '\"success\":\\s*true' | awk -F: '{print $$2}'"]
interval: 30s
timeout: 10s
retries: 3

redis:
image: redis:latest
container_name: redis
restart: always

mysql:
image: mysql:8.2
container_name: mysql
restart: always
environment:
MYSQL_ROOT_PASSWORD: 123456 # Ensure this matches the password in SQL_DSN
MYSQL_DATABASE: new-api
volumes:
- mysql_data:/var/lib/mysql
# ports:
# - "3306:3306" # If you want to access MySQL from outside Docker, uncomment

volumes:
mysql_data:

粘贴执行这行指令
:point_down:


docker-compose up -d

出现这个界面时,代表安装成功了。
我们复制IP地址,在浏览器中粘贴,冒号3000,回车即可打开网站页面。我们右上角登录管理员帐号,默认的账号root,密码123456,初次登录一定要尽快修改帐号密码,vivi只做演示,就先不修改了。
我们点击左侧渠道,来到渠道界面,点击添加渠道,选择自定义渠道,输入调用接口地址,随便输入一个名称,粘贴马斯克送的密钥,清除模型名,输入指定的模型名,其他不用修改,点击提交。我们点击测试模型,模型测试没问题后,我们进行一次简单的对话。API调用正常。
这样我们就基本完成了这个站点的搭建。
当然,你也可以对整个站点进行个性化的配置。我们可以在"控制台-设置"中,对网站进行非常详细的设置,例如通知、充值、费率、站点信息等等。大家可以自行搭建进行修改,vivi这里就不演示了。
现在网站可以通过ip+端口的方式进行访问了,但现在直接进行访问都是明文传输,是非常不安全的,接下来,我先讲解另外一个AI系统的部署,到最后再给大家演示如何给自己的AI站点配置一个域名,并申请网站证书,保护站点的安全,让你的AI站点通过域名就可以随时访问!

6.2.1. Lobechat​


https://pic.budongkeji.cc/i/2025/02/25/kfgujl.gif(图片大于 2 MB)

接下来,Vivi演示LobeChat部署方法。这个项目在Github上已经获得了超过五万多的star,是一款非常成熟好用的私有化AI程序。支持超多平台,部署简单,免费开源!非常推荐大家使用!如果你觉得好用,别忘了去项目地址给作者点个star!
我们回到服务器SSH界面,粘贴执行这行指令
:point_down:


mkdir -p /root/docker/lobe && cd /root/docker/lobe && nano docker-compose.yml

在弹出的页面中,我们粘贴官方提供的compose,确认无误摁ctrl+x,问是否保存输入Y回车,提示文件名摁回车
:point_down:


version: '3.8'

services:
lobe-chat:
image: lobehub/lobe-chat
container_name: lobe-chat
restart: always
ports:
- '3210:3210'
environment:
OPENAI_API_KEY: sk-xxxx
OPENAI_PROXY_URL: https://api-proxy.com/v1
ACCESS_CODE: lobe66

粘贴执行这行指令
:point_down:


docker-compose up -d

如果你之前安装了其他ai站点程序,可能会出现错误,建议重装系统后重新操作。
出现这个界面时,代表安装成功了。我们复制IP地址,在浏览器中粘贴,冒号3210,回车即可打开网站页面。
我们点击左侧的网页头像,点击应用设置,语言模型。取消勾选其他的模型,下拉找到xAI,勾选启用,粘贴APIkey。其他的保持默认,点击检查。提示检查通过,如果不通过,请检查自己的APIKEY是否填错。
我们点击左侧的聊天气泡按钮,回到对话界面,在对话框左上角的小脑袋这里,选择我们要用的模型。
我们进行一次简单的对话,能够正常沟通,就代表配置成功了。
如果大家感兴趣,也可以自行研究其他的配置项,vivi在这里就不继续演示了。

*6.3 部署教程-部署反向代理​

那么,现在Ai站点部署好了,Vivi教给大家如何配置域名访问,保护站点的安全。
我们需要用NPM来配置站点的反向代理,因为他带有可视化的面板,操作起来非常简单,无需代码就可以轻松搞定反代。如果有小伙伴对反向代理的原理感兴趣的,可以去网上搜一下反向代理的科普视频,vivi今天就不赘述了。


519×508 9.6 KB


我们回到ssh面板,粘贴执行这行指令
:point_down:


mkdir -p /root/docker/npm && cd /root/docker/npm && nano docker-compose.yml

在弹出的页面中,我们粘贴这些内容,确认无误摁ctrl+x,问是否保存输入Y回车,提示文件名摁回车
:point_down:


services:
app:
image: 'jc21/nginx-proxy-manager:latest'
restart: unless-stopped
ports:
- '80:80'
- '81:81'
- '443:443'
volumes:
- ./data:/data
- ./letsencrypt:/etc/letsencrypt

粘贴执行这行指令
:point_down:


docker-compose up -d

出现这个界面时,代表安装成功了。
我们复制IP地址,在浏览器中粘贴,冒号81,回车即可打开网站页面。
输入默认的账户admin@example.com 密码changeme ,进入到网页后,我们根据提示修改自己的账户密码。修改完信息后,我们就来到了主页面。如果看不懂页面的,可以右键翻译。

*6.4 部署教程-解析域名​

添加反向代理之前,我们要先去cloudflare的域名列表,将需要解析的域名解析到这台服务器上。不知道如何购买域名和使用Cloudflare的,欢迎观看我之前的教程。教程链接
我们来到cf的域名管理界面,点击最左侧DNS,点击添加记录。我们将ipv4地址粘贴在这里,关闭小云朵。
现在我们可以给我们的ai站点服务设置域名了,例如,vivi这里设置为ai,我们可以看到,ai.755577.xyz会被指向我们的ip地址。确认无误点击保存。
我们回到NPM,点击主页,点击最左侧的代理主机,点击新增。域名填我们设置好的域名,输入ip地址,端口就填刚刚我们搭建好的AI站点,例如3210,这三个选项可以勾选上。点击save保存。
我们打开刚刚的链接,测试一下反向代理是否成功了。我们可以看到,现在用域名,也可以正常打开我们的AI站点。但是依然显示为不安全,接下来,我们给网站配置一个证书

*6.5 部署教程-申请配置SSL证书​

我们回到NPM,点击最右侧更多,编辑。在SSL这里,点击申请新证书,勾选这几个选项。在DNS这里,选择cloudflare。我们需要输入一个token。
回到CF,点击右上角头像,个人资料,左侧API令牌,点击创建令牌,选择第一项:编辑区域DNS。
输入一个好记的名字,在特定区域这里选择你的域名。其他不用管,点击继续,点击创建。令牌只会显示一次,请保存好。
回到NPM中,将令牌粘贴进去。其他的保持默认,点击保存。稍等片刻,便自动帮我们申请并配置好了域名证书。此时我们再打开网站,网站就会显示安全了。

7.结语​

其他的站点配置方式大同小异,在这里vivi就不再继续演示了。如果你遇到了其他的问题,可以加TG群一起交流。简单几步,我们就拥有了属于自己的私有化AI机器人,是不是非常简单呢?
视频中所用到的代码及链接,我会放到博客内,如果有后续的更新,我也会更新在博客内,欢迎大家关注。
好啦小伙伴们,以上就是今天的教程啦,我们下次再见!

8.参考资料及用到的链接​

 
后退
顶部