作者在复现项目时因现有服务器无法部署docker而寻找新的FPU租赁平台,最终选择了Ucloud优刻得的优云智算平台,详细介绍了在该平台创建实例、安装docker以及在Docker中安装Milvus的过程,最后推荐了Ucloud平台的GPU资源租赁服务。
在科技探索的道路上,一次偶然的机会,我发现了一个颇具潜力的项目,心中便萌生出复现它的想法。然而,当我深入研究时,却遇到了难题——这个项目需要通过docker进行部署。而我手头租赁的GPU服务器本身是虚拟化的,根本无法再部署docker。无奈之下,我只能将目光投向其他的FPU租赁平台,开启了一场寻找合适平台的“征程”。
经过一番综合比较,我如同在茫茫大海中找到了一座灯塔,发现了Ucloud优刻得的优云智算平台。更令人惊喜的是,这个平台最近还为高校科研提供了限时免费算力申请的福利,这无疑为我的探索之路注入了一剂强心针。
该平台的官网是:https://console.compshare.cn/
邀请注册链接如下:
当我点击“立即部署”按钮后,实例便顺利创建完成。创建完成后,我可以点击登录按钮,输入密码即可登录;当然,我也可以使用自己熟悉的SSH连接工具进行连接。
为了确认GPU的型号,我输入了“lspci | grep -i vga”这个命令。当看到输出结果时,我心中一阵欣喜,没错,正是强大的4090。
2.安装docker
# -------------------- 安装必要依赖包 --------------------
# 安装基础支持组件:
# apt-transport-https - 允许apt通过HTTPS协议访问仓库
# ca-certificates - 系统CA证书支持
# curl - 命令行下载工具
# software-properties-common - 提供add-apt-repository等工具
# gnupg - GPG密钥管理工具
# lsb-release - 获取系统发行版信息
sudo apt install -y apt-transport-https ca-certificates curl software-properties-common gnupg lsb-release
# -------------------- 更新软件索引 --------------------
# 更新软件包列表(必须操作)
sudo apt update
# 全面更新系统(可选,推荐)
sudo apt-get -y upgrade
# -------------------- 安装Docker引擎 --------------------
# 安装Docker核心组件:
# docker-ce - Docker社区版引擎
# docker-ce-cli - Docker命令行工具
# containerd.io - 容器运行时
sudo apt install -y docker-ce docker-ce-cli containerd.io
# 验证安装版本
sudo docker -v # 输出示例:Docker version 24.0.7, build afdd53b
# -------------------- 配置镜像加速器 --------------------
# 创建Docker配置目录
sudo mkdir-p /etc/docker
# 生成镜像加速配置(使用国内镜像源提升下载速度)
sudo tee/etc/docker/daemon.json <<- 'EOF'
{
"registry-mirrors": [
"https://docker.mirrors.ustc.edu.cn" # 中科大镜像源
"https://docker.m.daocloud.io",
"https://registry.docker-cn.com"
],
}
EOF
# -------------------- 服务管理 --------------------
# 重载systemd配置(使新配置生效)
sudo systemctl daemon-reload
# 启动Docker服务并设置开机自启
sudo systemctl enable--now docker
# 检查服务状态(确认显示active (running))
sudo systemctl status docker
# -------------------- 验证安装 --------------------
# 拉取测试镜像(验证网络和功能)
sudo docker pull hello-world
# 运行测试容器
sudo docker run -- rmhello-world
# 将当前用户加入docker组(避免每次使用sudo)
sudo usermod -aG docker $USER
newgrp docker # 立即生效组权限
安装好docker后,我决定尝试在 Docker 中安装 Milvus。我参考了官网文档:https://milvus.io/docs/zh/install_standalone-docker.md
运行安装脚本后,一个名为 Milvus 的 docker 容器成功在 19530 端口启动。嵌入式 etcd 与 Milvus 安装在同一个容器中,其服务端口为 2379。它的配置文件被映射到当前文件夹中的 embedEtcd.yaml。我可以访问 Milvus WebUI,网址是 http://127.0.0.1:9091/webui/ ,如果将其换成 ucloud 的服务器外网地址,就可以在自己的浏览器中查看了。至此,后续可探索的内容就丰富多样啦!关于向量数据库的内容,我会在后续继续分享给大家。
最后,再回到本次分享的主题,今天我主要是想向大家推荐 Ucloud 平台,它可以提供 GPU 资源租赁服务。下一次,我将和大家分享如何微调一个大模型。
再次给出邀请注册链接:
祝大家使用愉快!
本文围绕作者复现项目的经历展开,从遇到服务器无法部署docker的困境,到找到Ucloud优刻得的优云智算平台,详细阐述了在该平台创建实例、安装docker以及在Docker中安装Milvus的具体步骤。最后推荐了Ucloud平台的GPU资源租赁服务,并预告了下次分享微调大模型的内容,为科技爱好者提供了实用的操作指南和平台推荐。
原创文章,作者:Wonderful,如若转载,请注明出处:https://www.gouwuzhinan.com/archives/41169.html