从项目困境到顺利部署,Ucloud平台GPU租赁来救场,Ucloud优云智算平台:开启Docker部署与Milvus安装之旅

作者在复现项目时因现有服务器无法部署docker而寻找新的FPU租赁平台,最终选择了Ucloud优刻得的优云智算平台,详细介绍了在该平台创建实例、安装docker以及在Docker中安装Milvus的过程,最后推荐了Ucloud平台的GPU资源租赁服务。

在科技探索的道路上,一次偶然的机会,我发现了一个颇具潜力的项目,心中便萌生出复现它的想法。然而,当我深入研究时,却遇到了难题——这个项目需要通过docker进行部署。而我手头租赁的GPU服务器本身是虚拟化的,根本无法再部署docker。无奈之下,我只能将目光投向其他的FPU租赁平台,开启了一场寻找合适平台的“征程”。

经过一番综合比较,我如同在茫茫大海中找到了一座灯塔,发现了Ucloud优刻得的优云智算平台。更令人惊喜的是,这个平台最近还为高校科研提供了限时免费算力申请的福利,这无疑为我的探索之路注入了一剂强心针。

该平台的官网是:https://console.compshare.cn/

邀请注册链接如下:

从项目困境到顺利部署,Ucloud平台GPU租赁来救场,Ucloud优云智算平台:开启Docker部署与Milvus安装之旅

当我点击“立即部署”按钮后,实例便顺利创建完成。创建完成后,我可以点击登录按钮,输入密码即可登录;当然,我也可以使用自己熟悉的SSH连接工具进行连接。

从项目困境到顺利部署,Ucloud平台GPU租赁来救场,Ucloud优云智算平台:开启Docker部署与Milvus安装之旅

为了确认GPU的型号,我输入了“lspci | grep -i vga”这个命令。当看到输出结果时,我心中一阵欣喜,没错,正是强大的4090。

2.安装docker

# -------------------- 安装必要依赖包 --------------------

# 安装基础支持组件:

# apt-transport-https - 允许apt通过HTTPS协议访问仓库

# ca-certificates - 系统CA证书支持

# curl - 命令行下载工具

# software-properties-common - 提供add-apt-repository等工具

# gnupg - GPG密钥管理工具

# lsb-release - 获取系统发行版信息

sudo apt install -y apt-transport-https ca-certificates curl software-properties-common gnupg lsb-release

# -------------------- 更新软件索引 --------------------

# 更新软件包列表(必须操作)

sudo apt update

# 全面更新系统(可选,推荐)

sudo apt-get -y upgrade

# -------------------- 安装Docker引擎 --------------------

# 安装Docker核心组件:

# docker-ce - Docker社区版引擎

# docker-ce-cli - Docker命令行工具

# containerd.io - 容器运行时

sudo apt install -y docker-ce docker-ce-cli containerd.io

# 验证安装版本

sudo docker -v # 输出示例:Docker version 24.0.7, build afdd53b

# -------------------- 配置镜像加速器 --------------------

# 创建Docker配置目录

sudo mkdir-p /etc/docker

# 生成镜像加速配置(使用国内镜像源提升下载速度)

sudo tee/etc/docker/daemon.json <<- 'EOF'

{

"registry-mirrors": [

"https://docker.mirrors.ustc.edu.cn" # 中科大镜像源

"https://docker.m.daocloud.io",

"https://registry.docker-cn.com"

],

}

EOF

# -------------------- 服务管理 --------------------

# 重载systemd配置(使新配置生效)

sudo systemctl daemon-reload

# 启动Docker服务并设置开机自启

sudo systemctl enable--now docker

# 检查服务状态(确认显示active (running))

sudo systemctl status docker

# -------------------- 验证安装 --------------------

# 拉取测试镜像(验证网络和功能)

sudo docker pull hello-world

# 运行测试容器

sudo docker run -- rmhello-world

# 将当前用户加入docker组(避免每次使用sudo)

sudo usermod -aG docker $USER

newgrp docker # 立即生效组权限

安装好docker后,我决定尝试在 Docker 中安装 Milvus。我参考了官网文档:https://milvus.io/docs/zh/install_standalone-docker.md

运行安装脚本后,一个名为 Milvus 的 docker 容器成功在 19530 端口启动。嵌入式 etcd 与 Milvus 安装在同一个容器中,其服务端口为 2379。它的配置文件被映射到当前文件夹中的 embedEtcd.yaml。我可以访问 Milvus WebUI,网址是 http://127.0.0.1:9091/webui/ ,如果将其换成 ucloud 的服务器外网地址,就可以在自己的浏览器中查看了。至此,后续可探索的内容就丰富多样啦!关于向量数据库的内容,我会在后续继续分享给大家。

最后,再回到本次分享的主题,今天我主要是想向大家推荐 Ucloud 平台,它可以提供 GPU 资源租赁服务。下一次,我将和大家分享如何微调一个大模型。

再次给出邀请注册链接:

祝大家使用愉快!

本文围绕作者复现项目的经历展开,从遇到服务器无法部署docker的困境,到找到Ucloud优刻得的优云智算平台,详细阐述了在该平台创建实例、安装docker以及在Docker中安装Milvus的具体步骤。最后推荐了Ucloud平台的GPU资源租赁服务,并预告了下次分享微调大模型的内容,为科技爱好者提供了实用的操作指南和平台推荐。

原创文章,作者:Wonderful,如若转载,请注明出处:https://www.gouwuzhinan.com/archives/41169.html

(0)
WonderfulWonderful
上一篇 2025年3月22日
下一篇 2025年3月22日

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注