NVIDIA L40S 48GB

Технические характеристики:

• Ускоритель: NVIDIA L40S
• Архитектура: NVIDIA Ada Lovelace
• CUDA-ядер: 18176
• RT-ядер: 142, третьего поколения
• Tensor-ядер: 568, четвёртого поколения
• Производительность FP32: 91,6 ТФЛОПС
• Производительность RT-ядер: 212 ТФЛОПС
• Производительность TF32 Tensor: до 366 ТФЛОПС с разреженностью
• Производительность BF16 Tensor: до 733 ТФЛОПС с разреженностью
• Производительность FP16 Tensor: до 733 ТФЛОПС с разреженностью
• Производительность FP8 Tensor: до 1466 ТФЛОПС с разреженностью
• Производительность INT8 Tensor: до 1466 TOPS с разреженностью
• Объём видеопамяти: 48 ГБ
• Тип памяти: GDDR6 с ECC
• Пропускная способность памяти: 864 ГБ/с
• Интерфейс подключения: PCI Express 4.0 x16
• Пропускная способность интерфейса: 64 ГБ/с в двунаправленном режиме
• Максимальная потребляемая мощность: 350 Вт
• Разъём питания: 1 × 16-pin
• Видеовыходы: 4 × DisplayPort 1.4a
• Видеокодировщики: 3 × NVENC
• Видеодекодировщики: 3 × NVDEC
• Поддержка AV1: аппаратное кодирование и декодирование
• Форм-фактор: полноразмерная двухслотовая PCIe-карта
• Размеры: 266,7 × 111,8 мм
• Система охлаждения: пассивная
• Поддержка MIG: отсутствует
• Поддержка NVLink: отсутствует
• Защита: Secure Boot с аппаратным Root of Trust
• Соответствие требованиям: NEBS Level 3 Ready

Поддерживаемые технологии:

• NVIDIA CUDA
• Tensor Cores четвёртого поколения
• RT Cores третьего поколения
• NVIDIA Transformer Engine
• NVIDIA DLSS 3
• NVIDIA RTX
• NVIDIA AI Enterprise
• NVIDIA TensorRT
• NVIDIA TensorRT-LLM
• NVIDIA Triton Inference Server
• NVIDIA CUDA-X
• NVIDIA RAPIDS
• NVIDIA Omniverse
• NVIDIA RTX Virtual Workstation
• NVIDIA vGPU
• Аппаратное кодирование AV1
• Аппаратное декодирование AV1
• Вычисления FP32, TF32, BF16, FP16, FP8 и INT8
• PCI Express 4.0

Требования к системе:

• Серверная платформа: NVIDIA-Certified System или совместимый сервер, рассчитанный на установку NVIDIA L40S.
• Слот расширения: полноразмерный PCI Express 4.0 x16 или более новый совместимый интерфейс.
• Монтажное пространство: два слота расширения на каждый ускоритель.
• Электропитание: серверная подсистема питания, рассчитанная на потребление 350 Вт на один ускоритель.
• Дополнительное питание: один совместимый кабель PCIe CEM5 16-pin.
• Охлаждение: направленный серверный воздушный поток через пассивный радиатор ускорителя.
• Корпус: серверное шасси с поддержкой полноразмерных двухслотовых GPU.
• Программная среда: поддерживаемая версия Linux или Windows Server, драйвер NVIDIA и совместимый стек CUDA.
• Для виртуализации: совместимый гипервизор и лицензия NVIDIA vGPU.
• Для нескольких ускорителей: серверная PCIe-топология и блоки питания, рассчитанные на выбранное количество L40S.

Оптимально подходит для:

• Инференса больших языковых и мультимодальных AI-моделей.
• Обучения и дообучения нейросетей среднего масштаба.
• Генерации изображений, видео и трёхмерного контента.
• GPU-рендеринга в Blender, V-Ray, OctaneRender и Redshift.
• Создания цифровых двойников в NVIDIA Omniverse.
• Архитектурной, инженерной и промышленной визуализации.
• Развёртывания виртуальных рабочих станций NVIDIA RTX vWS.
• Облачных CAD, BIM и 3D-приложений.
• Видеотранскодирования и потокового вещания с поддержкой AV1.
• Работы с Unreal Engine и виртуальным производством.

Итоговый вывод: NVIDIA L40S 48GB предназначена для серверной инфраструктуры, в которой AI-вычисления, профессиональная графика и обработка медиаконтента выполняются на одной универсальной платформе. Память GDDR6 ECC объёмом 48 ГБ, производительность FP8 до 1466 ТФЛОПС и аппаратные RTX-блоки позволяют использовать ускоритель для инференса, обучения нейросетей, рендеринга, цифровых двойников и виртуальных рабочих станций. Пассивная конструкция требует совместимого серверного шасси с направленным воздушным потоком, а отсутствие NVLink и MIG необходимо учитывать при проектировании многопроцессорной конфигурации.