跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Shell / BashAI

Ubuntu 24.04 LTS 安装 NVIDIA 显卡驱动、CUDA 12.5 及 Docker 容器工具包

Ubuntu 24.04 LTS 系统上从零开始安装 NVIDIA 显卡驱动、CUDA Toolkit 12.5 及配置 NVIDIA Container Toolkit 的完整指南。涵盖环境清理、官方源添加、驱动与 CUDA 安装、环境变量配置、驱动验证以及 Docker 容器 GPU 调用测试。解决了 Secure Boot 禁用、环境变量失效及 Docker 运行时配置等常见问题,适用于深度学习与高性能计算开发环境搭建。

CryptoLab发布于 2026/2/7更新于 2026/10/17970 浏览
Ubuntu 24.04 LTS 安装 NVIDIA 显卡驱动、CUDA 12.5 及 Docker 容器工具包

随着 Ubuntu 24.04 LTS 的发布,许多需要进行 GPU 加速计算的开发者都希望能够在这个最新的长期支持版本上搭建自己的开发环境。NVIDIA 显卡驱动是基础,CUDA 是连接硬件和上层计算框架(如 PyTorch, TensorFlow)的桥梁,而 NVIDIA Container Toolkit 则是实现容器化 GPU 应用的关键。本文将手把手带你走完整个安装流程,确保每一步都清晰明了,避免踩坑。

第一步:环境准备与清理

在开始安装之前,强烈建议先将系统中可能存在的旧版本 NVIDIA 驱动彻底卸载,以避免潜在的冲突。 打开终端(快捷键 Ctrl+Alt+T),执行以下命令:

# 更新软件包列表
sudo apt update
# 卸载所有与 nvidia 相关的软件包
sudo apt-get --purge remove '*nvidia*'
sudo apt-get autoremove
sudo apt-get autoclean

执行完毕后,最好重启一下系统,确保所有旧的驱动模块都已被卸载。

sudo reboot

重启后,你可以通过 lspci 命令确认你的 NVIDIA 显卡型号,确保硬件被系统正确识别。

# 查看 PCI 设备列表,并筛选出 NVIDIA 相关的设备
lspci | grep -i nvidia

你会看到类似下面的输出,显示你的显卡型号(例如 NVIDIA Corporation GA102 [GeForce RTX 3090])。

第二步:添加 NVIDIA CUDA 官方软件源

为了确保我们安装的是最新且最匹配的驱动和 CUDA 版本,最佳实践是使用 NVIDIA 官方提供的软件源。 更新软件包列表完成上述步骤后,再次更新你的 apt 软件包列表,以加载新的 CUDA 软件源。

sudo apt-get update

添加 CUDA 软件源

# 下载 CUDA for Ubuntu 24.04 的仓库配置文件
wget https://developer.download.nvidia.com/compute/cuda/12.5.1/local_installers/cuda-repo-ubuntu2404-12-5-local_12.5.1-555.42.06-1_amd64.deb
# 使用 dpkg 安装该仓库配置文件
sudo dpkg -i cuda-repo-ubuntu2404-12-5-local_12.5.1-555.42.06-1_amd64.deb
# 从本地仓库中提取 GPG 密钥并添加到系统的信任列表
sudo cp /var/cuda-repo-ubuntu2404-12-5-local/cuda-*-keyring.gpg /usr/share/keyrings/

下载并添加官方源的 GPG 密钥

# 下载官方的 .pin 文件,用于指定仓库优先级
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-ubuntu2404.pin

  cuda-ubuntu2404.pin /etc/apt/preferences.d/cuda-repository-pin-600
# 将 .pin 文件移动到 apt 的偏好设置目录
sudo
mv

第三步:安装 NVIDIA 驱动和 CUDA Toolkit

现在,我们可以直接通过 apt 来安装 CUDA Toolkit。一个好消息是,安装 cuda-toolkit 会自动处理其依赖关系,将最匹配的 NVIDIA 驱动一并安装上。

# 安装 CUDA Toolkit 12.5
# 这个过程会下载并安装驱动、CUDA 核心组件等,可能需要一些时间
sudo apt-get -y install cuda-toolkit-12-5

安装完成后,再次重启系统以加载新的内核模块和驱动。

sudo reboot

第四步:配置系统环境变量

为了让系统能够在任何路径下都能找到 CUDA 的可执行文件(如 nvcc)和库文件,我们需要配置 PATH 和 LD_LIBRARY_PATH 环境变量。

  • PATH 变量用于指定可执行文件的搜索路径。
  • LD_LIBRARY_PATH 变量用于指定动态链接库的搜索路径。
  • ${VAR:+:${VAR}} 是一种安全的写法,表示如果 VAR 变量已存在且非空,则在其前面添加一个冒号,否则不加,避免路径开头出现多余的冒号。

编辑 ~/.bashrc 文件使用你喜欢的文本编辑器(如 nano 或 vim)打开 ~/.bashrc 文件。

nano ~/.bashrc

在文件末尾添加以下内容

# NVIDIA CUDA Toolkit Environment Variables
export PATH=/usr/local/cuda-12.5/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.5/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

使配置立即生效保存并关闭文件后,执行以下命令让配置立即生效。

source ~/.bashrc

第五步:验证驱动和 CUDA 安装

现在是激动人心的验证环节! 验证 CUDA Toolkit执行 nvcc -V 或 nvcc --version 命令,检查 CUDA 编译器的版本。

nvcc -V

如果安装成功,你会看到类似下面的输出,确认 CUDA Toolkit 12.5 已安装。

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Tue_Mar_19_18:45:25_PDT_2024
Cuda compilation tools, release 12.5, V12.5.40
Build cuda_12.5.r12.5/compiler.34174849_0

验证 NVIDIA 驱动执行 nvidia-smi 命令。

nvidia-smi

如果一切正常,你将看到一个表格,详细列出了你的 GPU 型号、驱动版本、CUDA 版本以及 GPU 的实时状态(温度、功耗、显存使用情况等)。

第六步:安装和配置 NVIDIA Container Toolkit

为了让 Docker 容器能够使用 GPU,我们需要安装 NVIDIA Container Toolkit。 更新软件包列表并安装

sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

设置 GPG 密钥和软件源

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

配置 Docker 守护进程安装完成后,我们需要配置 Docker,让它知道如何使用 NVIDIA 运行时。

sudo nvidia-ctk runtime configure --runtime=docker

重启 Docker 服务应用新的配置,需要重启 Docker 守护进程。

sudo systemctl restart docker

第七步:最终测试——在 Docker 容器中访问 GPU

最后一步,我们来验证一下 Docker 容器是否真的能调用到 GPU 资源。 我们将运行一个官方的 CUDA 基础镜像,并在容器内部执行 nvidia-smi。

# --gpus all 参数是关键,它告诉 Docker 为该容器分配所有可用的 GPU
sudo docker run --rm --gpus all nvidia/cuda:12.5.1-base-ubuntu22.04 nvidia-smi

如果命令成功执行,并且在容器的输出中看到了和主机上一样的 nvidia-smi 表格,那么恭喜你!整个环境已经完美搭建成功!

总结与常见问题

通过以上七个步骤,我们成功地在 Ubuntu 24.04 LTS 系统上完成了 NVIDIA 驱动、CUDA Toolkit 12.5 以及 NVIDIA Container Toolkit 的安装和配置。现在,你的系统已经准备就绪,可以投入到激动人心的 AI 开发和深度学习研究中去了。

常见问题 (FAQ):

  • Q: 安装过程中提示 Secure Boot 相关问题怎么办?
    • A: NVIDIA 驱动是第三方内核模块,需要在 BIOS/UEFI 中禁用安全启动 (Secure Boot) 才能正常加载。请重启电脑进入 BIOS 设置,找到 Secure Boot 选项并将其设置为 Disabled。
  • Q: nvidia-smi 命令找不到?
    • A: 最大的可能是环境变量没有配置正确或没有生效。请检查 ~/.bashrc 文件中的路径是否正确(特别是 CUDA 版本号),然后执行 source ~/.bashrc。如果还不行,请检查 /usr/local/ 目录下 CUDA 的实际安装路径。
  • Q: Docker 测试时报错 docker: Error response from daemon: ...?
    • A: 确保 nvidia-container-toolkit 已正确安装,并且 sudo systemctl restart docker 命令已成功执行。检查 Docker 服务的状态 (sudo systemctl status docker) 看是否有错误信息。

目录

  1. 第一步:环境准备与清理
  2. 更新软件包列表
  3. 卸载所有与 nvidia 相关的软件包
  4. 查看 PCI 设备列表,并筛选出 NVIDIA 相关的设备
  5. 第二步:添加 NVIDIA CUDA 官方软件源
  6. 下载 CUDA for Ubuntu 24.04 的仓库配置文件
  7. 使用 dpkg 安装该仓库配置文件
  8. 从本地仓库中提取 GPG 密钥并添加到系统的信任列表
  9. 下载官方的 .pin 文件,用于指定仓库优先级
  10. 将 .pin 文件移动到 apt 的偏好设置目录
  11. 第三步:安装 NVIDIA 驱动和 CUDA Toolkit
  12. 安装 CUDA Toolkit 12.5
  13. 这个过程会下载并安装驱动、CUDA 核心组件等,可能需要一些时间
  14. 第四步:配置系统环境变量
  15. NVIDIA CUDA Toolkit Environment Variables
  16. 第五步:验证驱动和 CUDA 安装
  17. 第六步:安装和配置 NVIDIA Container Toolkit
  18. 第七步:最终测试——在 Docker 容器中访问 GPU
  19. --gpus all 参数是关键,它告诉 Docker 为该容器分配所有可用的 GPU
  20. 总结与常见问题

更多推荐文章

查看全部
  • Python 实现 Coze API 集成:OAuth 授权与消息交互
  • OpenClaw 安装配置与多渠道接入指南
  • 2026 年主流免费 AI 写作工具测评与避坑指南
  • Python 爬虫入门项目实战指南与学习路线
  • C++ ODB 数据库 ORM 框架详解
  • AI 工作流实践:构建日报生成器
  • VSCode 禁用 GitHub Copilot 设置方法
  • 基于 RAG 技术的大规模商品智能检索系统实现
  • 攻防世界 Web 安全挑战 easy_web SSTI 模板注入分析
  • UnityMCP+Claude+VSCode 构建 AI 游戏开发环境
  • SPI 通信读取 255 问题排查与 MISO 线状态分析
  • Linux du 命令详解:精准探查文件和目录的磁盘占用
  • OpenClaw 论坛:88 万 AI 代理的社交实验与生态观察
  • AI 绘画报错修复:CheckpointLoaderSimple 模型缺失处理
  • HTML5 结合 AI 实现智能前端交互与渲染
  • OpenClaw Gateway 服务运维实战:启动、停止与监控
  • SpringDoc OpenAPI 常用注解详解与实战示例
  • 蓝桥杯省赛 Java A 组 Q6:砍柴题解
  • NASA 火星任务软件测试:AIGC 模拟极端环境攻击
  • Formality 原语概念详解

相关免费在线工具

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online