Nvidia Jetson AGX Thor Developer Kit для AI и робототехники

Комплект разработчика: Nvidia Jetson AGX Thor Developer Kit для AI и робототехники

Подробности в статье..

NVIDIA Jetson AGX Thor Developer Kit — это новейшая платформа для разработки и внедрения искусственного интеллекта (ИИ) на периферии (edge AI), анонсированная NVIDIA. Она предназначена для создания и запуска сложных ИИ-моделей, в первую очередь в области робототехники, автономных систем и «физического ИИ».

Техническое превосходство:

• Вычислительный модуль: Основа устройства — чип Jetson T5000, самый мощный SoC (система-на-кристалле) в линейке Jetson на сегодняшний день.
• GPU: 2560 ядер CUDA и 96 тензорных ядер 5-го поколения на базе новой архитектуры Blackwell.
• CPU: 14-ядерный процессор на базе Arm Neoverse.
• Память: 128 ГБ унифицированной памяти LPDDR5x с пропускной способностью 276 ГБ/с. Это единый пул памяти для CPU и GPU, что исключает задержки при передаче данных.

Производительность:

• До 2070 TFLOPs в формате FP4 (новый тип данных для ИИ-вывода).
• До 1035 TOPS в формате FP8.
• Это обеспечивает до 7,5-кратного преимущества по сравнению с предыдущим поколением (Jetson AGX Orin) при выполнении задач с низкой точностью.

Архитектурные инновации:

1. Multi-Instance GPU (MIG): Позволяет разделять графический процессор на несколько изолированных разделов. Это дает возможность одновременно запускать несколько разных ИИ-моделей без потери производительности из-за переключения контекста.
2. Unified Memory (Унифицированная память): Как в компьютерах Apple Silicon, все 128 ГБ памяти доступны и для вычислений на CPU, и для GPU. Это упрощает разработку и устраняет проблему нехватки памяти для больших моделей.

Комплект предназначен для решения самых требовательных задач в сфере ИИ:

• Физический ИИ (Physical AI): Управление роботами, дронами и другими автономными устройствами, которые взаимодействуют с реальным миром.
• Робототехника: Обработка данных с множества датчиков (камеры, лидары, датчики силы) в реальном времени.
• Компьютерное зрение: Одновременный анализ нескольких видеопотоков высокого разрешения.
• Большие языковые модели (LLM): Запуск и дообучение компактных версий LLM прямо на устройстве.

В комплект входит всё необходимое для старта:

• Вычислительный модуль Jetson AGX Thor.
• Адаптер питания 240 Вт.
• Набор кабелей.

На плате есть богатый набор портов:

• 2 × USB-C (с поддержкой питания).
• 2 × USB 3.0.
• HDMI 2.1.
• Gigabit Ethernet.
• Сверхбыстрый порт 100 GbE для объединения нескольких устройств в кластер.
• Беспроводные модули Wi-Fi 6E и Bluetooth.
• Встроенный накопитель объемом 1 ТБ (для ОС Ubuntu и данных).

Основные характеристики комплекта:

• Processor: NVIDIA Jetson T5000 module (14x Arm64 Neoverse CPU cores, 2,560 CUDA GPU cores, 96 TensorRT cores)
• Storage: 1TB NVMe M.2 SSD
• Memory: 128GB 256-bit LPDDR5x, 276 GB/sec
• Frequency: 1.57 GHz max GPU, 2.6 GHz max CPU
• PCI Express: M.2 M-key slot with 4x PCIe Gen5 for SSDM.2 E-key slot with WiFi 6E + Bluetooth
• Storage: 2TB PCIe 4.0 SSD
• USB: 2x USB Type-A 3.2 Gen22x USB Type-C 3.1 Gen11x USB Type-C (Debug only)
• Wired Networking: 1x 5GbE RJ45 connector1x QSFPS8 (4x 25GbE)
• Wireless Networking: 802.11ax WiFi 6E + Bluetooth 5
• Other I/O: 2x 13-pin CAN header2x 6-pin Automation header2x 5-pin header JTAG Connector1x 4-pin Fan Connector—12V, PWM, and Tach2x 5-pin Audio Panel Header2-pin RTC Backup Battery ConnectorMicrosoft Power JackPower, Force Recovery, and Reset buttons
• Power: 140W - 160W
• Dimensions (LxWxH): 243.19 mm x 112.40 mm x 56.88 mm (height includes feet, carrier board, module, and thermal solution)