Проблемы с установкой CUDA и cuDNN на Ubuntu 24.04

В настоящее время я использую Ubuntu 24.04 и столкнулся с несколькими проблемами при попытке установить драйверы CUDA и cuDNN. Несмотря на следование инструкциям по установке, у меня возникают проблемы. Кроме того, после установки мой внешний монитор больше не определяется.

Ниже приведен мой установленный драйвер NVIDIA по умолчанию.

 +---------------------------------------------------------------------------------------+

| NVIDIA-SMI 535.183.01 Версия драйвера: 535.183.01 Версия CUDA: 12.2 |

|-----------------------------------------+----------------------+----------------------+

| Имя GPU Персистентный режим | Bus-Id Disp.A | Нестабильная некорр. ECC |

| Вентилятор Темп Производительность Потребление:Использование/Возможности | Использование памяти | Использование GPU Режим вычислений. |

| | | MIG M. |

|=========================================+======================+======================|

| 0 NVIDIA GeForce RTX 3070 ... Отключено | 00000000:01:00.0 Отключено | Н/Д |

| Н/Д 46C P0 25W / 80W | 8MiB / 8192MiB | 0% По умолчанию |

| | | Н/Д |

+-----------------------------------------+----------------------+----------------------+ 

Похоже, что CUDA установлена, но когда я запускаю это

import tensorflow as tf
from tensorflow.python.compiler.tensorrt import trt_convert as trt
print("TensorFlow собран с CUDA:", tf.test.is_built_with_cuda())
print("Доступно устройств GPU:", len(tf.config.experimental.list_physical_devices('GPU')))

Это возвращает 0 GPUs.

Как ранее пользователь Ubuntu 20.04 и 22.04, я рад 24.04. На мой взгляд, благодаря текущему ажиотажу вокруг ИИ, NVIDIA наконец-то нашла общий язык с пользователями Linux. Дело в том, что в предыдущих версиях мне требовался минимум день, чтобы использовать CUDNN, а здесь в 24.04 я просто выполнил эти шаги, и все готово!

Но сначала нужно упомянуть, что,

• Мой ноутбук – Lenovo Thinkpad с графическим процессором PRX Quadro A4500.
• Я не позволил Ubuntu найти драйвер и загрузить его через مركز приложений.

Шаги следующие:

1. Скачайте драйвер deb из дата-центра, выбрав свой GPU:
   https://developer.nvidia.com/datacenter-driver-downloads

2. Установите драйвер, следуя инструкциям на странице загрузки:
   Для моего GPU это были инструкции для справки:

    wget https://developer.download.nvidia.com/compute/nvidia-driver/565.57.01/local_installers/nvidia-driver-local-repo-ubuntu2404-565.57.01_1.0-1_amd64.deb
   
    sudo dpkg -i nvidia-driver-local-repo-ubuntu2404-565.57.01_1.0-1_amd64.deb
   
    sudo cp /var/nvidia-driver-local-repo-ubuntu2404-565.57.01/nvidia-driver-*-keyring.gpg /usr/share/keyrings/
   
    sudo apt-get update
   

3. На этом этапе мы можем автоматически установить CUDA также с помощью этого:

   sudo apt-get install -y cuda-drivers-565
   

Вы можете проверить вашу установку из bash, используя это:

nvidia-smi

Вы должны увидеть что-то подобное с деталями драйвера в верхнем левом углу и версией CUDA в верхнем правом углу:

4. Теперь нам лишь нужно установить CUDNN :
   https://developer.nvidia.com/cudnn-downloads

    wget https://developer.download.nvidia.com/compute/cudnn/9.5.1/local_installers/cudnn-local-repo-ubuntu2404-9.5.1_1.0-1_amd64.deb
   
    sudo dpkg -i cudnn-local-repo-ubuntu2404-9.5.1_1.0-1_amd64.deb
   
    sudo cp /var/cudnn-local-repo-ubuntu2404-9.5.1/cudnn-*-keyring.gpg /usr/share/keyrings/
   
    sudo apt-get update
   
    sudo apt-get -y install cudnn
   

5. После этих установок я протестировал это в Jupyter Notebook с помощью этих команд:

   !pip install torch
   
   import torch
   
   if torch.cuda.is_available():
   
      print("CUDA доступна! PyTorch может использовать GPU.")
      print(f"Количество устройств: {torch.cuda.device_count()}")
      print(f"Имя устройства: {torch.cuda.get_device_name(0)}")
   else:
   
      print("CUDA недоступна. PyTorch не может использовать GPU.")
   

И вы должны увидеть следующий ответ :

CUDA доступна! PyTorch может использовать GPU.

Количество устройств: 1

Имя устройства: NVIDIA RTX A4500 Laptop GPU

Надеюсь, это поможет!