在阿里云服务器上安装 CUDA,主要步骤如下。前提是你的阿里云实例必须配备 NVIDIA GPU(如使用 GN 系列实例,例如 gn6i、gn6v、gn7 等),否则无法安装和使用 CUDA。
✅ 一、确认前提条件
-
选择带有 NVIDIA GPU 的实例
- 如:
ecs.gn6i-c4g1.xlarge、ecs.gn7-c8g1.4xlarge等。 - 购买时务必选择支持 GPU 的镜像或自行配置。
- 如:
-
操作系统建议
- 推荐使用 Ubuntu 18.04/20.04/22.04 或 CentOS 7/8,官方对这些系统的支持较好。
-
登录服务器
ssh root@your-server-ip
✅ 二、安装 NVIDIA 驱动(如果未预装)
部分阿里云 GPU 实例已预装驱动,可通过以下命令检查:
nvidia-smi
- 如果能正常显示 GPU 信息,则跳过驱动安装。
- 如果提示
command not found或报错,则需要手动安装驱动。
方法一:通过阿里云官方驱动(推荐)
阿里云提供了适配的驱动下载地址:
# 下载驱动(以 Ubuntu 为例)
wget https://cn.download.nvidia.com/tesla/535.129.03/NVIDIA-Linux-x86_64-535.129.03.run
# 安装依赖
sudo apt update
sudo apt install -y gcc make dkms
# 禁用 nouveau(仅 Ubuntu/CentOS 使用开源显卡驱动时需要)
echo "blacklist nouveau" | sudo tee /etc/modprobe.d/blacklist-nouveau.conf
echo "options nouveau modeset=0" | sudo tee -a /etc/modprobe.d/blacklist-nouveau.conf
sudo update-initramfs -u
# 重启服务器
sudo reboot
重启后再次登录,关闭图形界面(服务器一般无图形界面,但确保安全):
sudo init 3 # 切换到多用户文本模式(可选)
安装驱动:
chmod +x NVIDIA-Linux-x86_64-535.129.03.run
sudo ./NVIDIA-Linux-x86_64-535.129.03.run
按提示安装,一般直接回车默认即可。
安装完成后运行:
nvidia-smi
应能看到 GPU 使用状态。
✅ 三、安装 CUDA Toolkit
方法一:使用 NVIDIA 官方 .run 文件(推荐用于生产环境)
- 前往 CUDA 下载页面
- 选择对应系统(如 Linux → x86_64 → Ubuntu → 20.04 → runfile)
- 获取下载链接:
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.15_linux.run
- 安装 CUDA:
sudo sh cuda_12.4.0_550.54.15_linux.run
⚠️ 注意:
- 如果之前装了驱动,不要勾选 Driver(避免重复安装)。
- 只选择安装 CUDA Toolkit、CUDA Samples 等。
- 设置环境变量:
echo 'export PATH=/usr/local/cuda-12.4/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.4/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc
版本号根据实际安装路径调整(如
cuda-12.4或cuda-11.8)
方法二:使用 APT/YUM 包管理器(适合快速测试)
以 Ubuntu 20.04 为例:
# 添加 CUDA 仓库
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update
# 安装 CUDA Toolkit
sudo apt install -y cuda-toolkit-12-4
然后同样设置环境变量。
✅ 四、验证安装
nvcc --version
输出类似:
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on ...
Cuda compilation tools, release 12.4, V12.4.131
同时再次运行:
nvidia-smi
确认驱动和版本正常。
✅ 五、可选:安装 cuDNN(深度学习常用)
- 前往 NVIDIA cuDNN 页面 下载(需注册账号)
- 上传
.deb文件到服务器(Ubuntu):
sudo dpkg -i cudnn-local-repo-ubuntu2004-8.x.x_xxx-1_amd64.deb
sudo cp /usr/local/cuda/include/cudnn*.h /usr/local/cuda/include
sudo cp /usr/local/cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
或者使用 tar 包解压复制。
✅ 六、常见问题解决
| 问题 | 解决方法 |
|---|---|
nvidia-smi 找不到 |
没装驱动,或实例无 GPU |
nvcc not found |
未设置环境变量,检查 .bashrc |
| 内核升级后驱动失效 | 重新运行 .run 文件或使用 dkms |
| 安装失败提示占用 | 关闭 X Server 或图形界面,sudo telinit 3 |
✅ 七、参考文档
- 阿里云官方文档:GPU 实例用户指南
- NVIDIA CUDA 官网:https://developer.nvidia.com/cuda-downloads
如果你提供具体的 实例型号、操作系统版本,我可以给出更精确的安装命令。欢迎补充!
CLOUD技术博