Можно ли загрузить часть слоев в видеопамять (VRAM) видеокарты AMD, если используется видеокарта NVIDIA?

Существует ли способ перемещать часть слоев одной видеокарты в память другой, в частности, из RAM на AMD и NVIDIA видеокарту? Если Windows не поддерживает такую функцию, возможно ли это реализовать в Linux-подобных операционных системах? Благодарю за предоставленные ответы заранее.
  • 11 июня 2024 г. 9:51
Ответы на вопрос 2
Не, нельзя загрузить часть слоев в видеопамять видеокарты AMD, если используется видеокарта NVIDIA. Каждая видеокарта имеет свою собственную видеопамять, которая не является общей для всех видеокарт в системе.

В отношении перемещения частей слоев между видеокартами разных производителей (например, из оперативной памяти на AMD видеокарту), это потенциально возможно через использование технологий, таких как Unified Memory Architecture (UMA) или Heterogeneous System Architecture (HSA). Однако Windows не поддерживает такие функции в текущей версии. 

В Linux-подобных операционных системах (например, Linux, Ubuntu) такой перенос данных между видеокартами может быть более гибким и возможным, так как они обычно предоставляют более широкие возможности для настройки и оптимизации системы. 

В целом, для перемещения данных между видеокартами разных производителей рекомендуется провести дополнительное исследование и попробовать различные методы с использованием специализированных программ или инструментов для оптимизации работы с графикой.
Да, но поддержку пилить придется самому. 

Например llama.cpp есть поддержка нескольких видеокарт, на сколько я знаю есть возможность с разными вендорами через opencl.

Там есть библиотека, чтобы свои сети пилить и даже конвертировать их их pytorch
Похожие вопросы