NVIDIA A100 80GB PCIe

Технические характеристики:

• Ускоритель: NVIDIA A100 80GB PCIe
• Графический процессор: NVIDIA GA100
• Архитектура: NVIDIA Ampere
• Техпроцесс: TSMC 7 нм
• CUDA-ядер: 6912
• Tensor-ядер: 432, третьего поколения
• Производительность FP64: 9,7 ТФЛОПС
• Производительность FP64 Tensor Core: 19,5 ТФЛОПС
• Производительность FP32: 19,5 ТФЛОПС
• Производительность TF32 Tensor Core: до 312 ТФЛОПС с разреженностью
• Производительность BF16 Tensor Core: до 624 ТФЛОПС с разреженностью
• Производительность FP16 Tensor Core: до 624 ТФЛОПС с разреженностью
• Производительность INT8 Tensor Core: до 1248 TOPS с разреженностью
• Производительность INT4 Tensor Core: до 2496 TOPS с разреженностью
• Объём памяти: 80 ГБ
• Тип памяти: HBM2e
• Пропускная способность памяти: 1935 ГБ/с
• Интерфейс подключения: PCI Express 4.0 x16
• Пропускная способность PCI Express: 64 ГБ/с в двунаправленном режиме
• Межсоединение: NVIDIA NVLink Bridge
• Пропускная способность NVLink: до 600 ГБ/с
• Конфигурация NVLink: объединение двух ускорителей
• Multi-Instance GPU: до семи изолированных экземпляров по 10 ГБ
• Максимальный TDP: 300 Вт
• Форм-фактор: полноразмерная PCIe-карта
• Количество занимаемых слотов: два
• Система охлаждения: пассивная, серверного класса
• Видеовыходы: отсутствуют

Поддерживаемые технологии:

• NVIDIA CUDA
• Tensor Cores третьего поколения
• NVIDIA Multi-Instance GPU
• NVIDIA NVLink
• NVIDIA GPUDirect RDMA
• NVIDIA GPUDirect Storage
• NVIDIA CUDA-X
• NVIDIA NCCL
• NVIDIA Magnum IO
• NVIDIA RAPIDS
• NVIDIA Triton Inference Server
• NVIDIA TensorRT
• NVIDIA AI Enterprise
• Структурная разреженность
• Вычисления FP64 и FP64 Tensor Core
• Вычисления FP32 и TF32
• Вычисления BF16 и FP16
• Вычисления INT8 и INT4
• PCI Express 4.0

Требования к системе:

• Серверная платформа: NVIDIA-Certified System или совместимый сервер, рассчитанный на установку NVIDIA A100 PCIe.
• Слот расширения: полноразмерный PCI Express 4.0 x16.
• Монтажное пространство: два слота расширения на каждый ускоритель.
• Электропитание: серверная подсистема питания, рассчитанная на потребление 300 Вт на один ускоритель.
• Охлаждение: направленный серверный воздушный поток через пассивный радиатор.
• Корпус: серверное шасси с поддержкой полноразмерных двухслотовых ускорителей.
• Для NVLink: два совместимых ускорителя A100 PCIe, подходящее расстояние между слотами и мост NVLink.
• Для нескольких ускорителей: совместимая PCIe-топология, достаточная мощность блоков питания и рассчитанное серверное охлаждение.
• Программная среда: поддерживаемая версия Linux, драйвер NVIDIA Data Center и совместимый CUDA Toolkit.
• Сетевая инфраструктура: высокоскоростное подключение для распределённых AI- и HPC-нагрузок.

Оптимально подходит для:

• Обучения и дообучения нейронных сетей.
• Инференса языковых, компьютерных и мультимодальных моделей.
• Высокопроизводительных вычислений с использованием FP64.
• Молекулярного моделирования и вычислительной химии.
• Геномики, биоинформатики и медицинских исследований.
• Моделирования физических, климатических и инженерных процессов.
• Анализа больших массивов данных с NVIDIA RAPIDS.
• Финансового моделирования и прогнозирования.
• Развёртывания облачных AI-сервисов.
• Консолидации нескольких независимых нагрузок через MIG.

Итоговый вывод: NVIDIA A100 80GB PCIe предназначена для серверов искусственного интеллекта и HPC-систем, которым необходимы большой объём памяти, высокая производительность Tensor Core и поддержка вычислений двойной точности. Память HBM2e объёмом 80 ГБ, технология MIG и возможность соединения двух ускорителей через NVLink позволяют адаптировать платформу под обучение нейросетей, инференс, аналитику данных и научное моделирование. Пассивное двухслотовое исполнение требует профессионального серверного шасси с направленным воздушным потоком и подсистемой питания, рассчитанной на круглосуточную нагрузку.