使用阿里云抢占服务器体验至慧云平台
1. 抢占阿里云服务器
阿里云链接: https://ecs.console.aliyun.com/
选择
抢占式实例
,8核心16GB任意选择
选择
Centos 8.5 64位
的系统版本
注意!!安全组需要开放端口号:
8080
(访问端口必须开放,至慧云默认端口号8080)
获取服务器的
内网ip
和外网ip
系统信息如下
系统: Centos 8.5
资源: 8核16GB
外网ip: 39.99.235.250
内网ip: 172.26.34.161
账号: root
密码: Zhihuiyun123..
2. 进入服务器
ssh root@39.99.235.250
3. 安装java环境(在线安装/推荐)
Ubuntu系统,执行命令如下:
sudo apt update
sudo apt install openjdk-8-jdk openjdk-8-jre -y
sudo yum install java-1.8.0-openjdk-devel java-1.8.0-openjdk -y
安装java环境(离线安装/可选)
cd /tmp
nohup wget https://openfly.oss-cn-shanghai.aliyuncs.com/java/zulu8.78.0.19-ca-jdk8.0.412-linux_x64.tar.gz >> download_jdk.log 2>&1 &
tail -f download_jdk.log
注意!!!一定要在~/.bashrc中配置JAVA_HOME环境变量
tar -vzxf /tmp/zulu8.78.0.19-ca-jdk8.0.412-linux_x64.tar.gz -C /opt
ln -s /opt/zulu8.78.0.19-ca-jdk8.0.412-linux_x64 /opt/java
tee -a ~/.bashrc <<-'EOF'
export JAVA_HOME=/opt/java
export PATH=$PATH:$JAVA_HOME/bin
EOF
source ~/.bashrc
java -version
4. 升级Python版本(在线安装/推荐)
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-vault-8.5.2111.repo
yum clean all && yum makecache
yum remove -y python3
yum install -y python39
5. 安装Pip依赖(在线安装/推荐)
安装huggingFace的transformers组件和pytorch环境
pip3 install torch 'transformers[torch]' fastapi uvicorn
6. 下载至慧云安装包
等待时间比较久,大约1GB安装包
cd /tmp
nohup wget https://isxcode.oss-cn-shanghai.aliyuncs.com/zhihuiyun/zhihuiyun.tar.gz >> download_zhihuiyun.log 2>&1 &
tail -f download_zhihuiyun.log
7. 解压安装包
cd /tmp
tar -vzxf zhihuiyun.tar.gz
8. 启动至慧云
cd /tmp/zhihuiyun/bin
bash start.sh
9. 检测服务是否启动
健康检测接口: http://39.99.235.250:8080/tools/open/health
10. 访问至慧云服务
1M的带宽,首次加载,大约40s
- 访问接口: http://39.99.235.250:8080
- 后台管理员账号:
admin
- 默认密码:
admin123
11. 创建用户租户
- 创建用户
zhihuiyun
- 创建租户
体验租户
12. 上传许可证
仅使用基础功能,不需要上传许可证
可免费获取体验许可证,在官网的最下面
官网链接: https://zhihuiyun.isxcode.com/
13. 安装集群
退出后台管理界面,使用
zhihuiyun
账号登录
选择
HuggingFace
类型的集群
点击集群名称
推荐使用内网ip
host: 172.26.34.161
用户名: root
密码: Zhihuiyun123..
14. 下载离线大模型
使用
Qwen/Qwen2.5-0.5B-Instruct
为例
将下载的内容压缩成zip
包