NVIDIA H100 NVL 94GB PCIe Gen5
900-21010-0020-000
FP32
134 TFLOPS
FP64
68 TFLOPS
PCIe
PCIe Gen5
VRAM
94 GB HBM3 with ECC
Memory Bandwidth: 3.9 TB/s
Memory Bandwidth: 3.9 TB/s
TDP
300-350W (configurable)
Warranty
3 Years Warranty
Die nächste Grenze für Innovationen
Der Aufstieg der generativen KI, wird in vielen Branchen als nächster Meilenstein angesehen – von Unternehmen aus der Tech-Branche über das Bankwesen, bis hin zu den Medien. Wir unterstützen Sie dabei, mit KI-basierten Lösungen Ihre Produktivität und Abläufe zu optimieren, sowie strategische Entscheidungen zu treffen und die Kundenerfahrung zu verbessern.
Vielseitige Einsatzmöglichkeiten von KI
Ob KI-unterstützte Anwendungen und Geschäftsmodelle, intelligente, menschenähnliche Chatbots für den Kundenservice oder KI zur Unterstützung bei der Codegenerierung und Inhaltserstellung – Unternehmen können quelloffene Frameworks, Bibliotheken und vortrainierte KI-Modelle nutzen und mit ihren eigenen Datensätzen für einzigartige Anwendungsfälle individualisieren. Mit der Einführung von KI-Infrastrukturen bieten die GPU-optimierten Systeme von Supermicro eine offene und modulare Architektur, Anbietervielfalt und einfache Bereitstellungs- und Upgrade-Pfade für schnelllebige Technologien.
AI Inferencing Karten & Plattformen
NVIDIA L40
900-2G133-0010-000
CUDA Cores
18176
Tensor Cores
568
NVIDIA RT Cores
142
PCIe
PCI Express PCIe 4.0 x16
VRAM
48 GB GDDR6 with ECC
Memory Bandwidth: 864 GB/s
Memory Bandwidth: 864 GB/s
TDP
300 W
Warranty
3 Years Warranty
NVIDIA L40S
900-2G133-0080-000
CUDA Cores
18176
Tensor Cores
568
NVIDIA RT Cores
142
PCIe
PCI Express PCIe 4.0 x16
VRAM
48 GB GDDR6 with ECC
Memory Bandwidth: 864 GB/s
Memory Bandwidth: 864 GB/s
TDP
350 W
Warranty
3 Years Warranty
NVIDIA L4
900-2G193-0000-001
CUDA Cores
7680
Tensor Cores
240
NVIDIA RT Cores
60
PCIe
PCI Express Gen 4 x 16
VRAM
24 GB GDDR6 with ECC
Memory Bandwidth: 300 GB/s
Memory Bandwidth: 300 GB/s
TDP
72W
Warranty
3 Years Warranty
NVIDIA Jetson AGX Orin development kit 64GB
945-13730-0055-000
GPU
2048-core NVIDIA Ampere architecture GPU with 64 Tensor Cores
CPU
12-core Arm Cortex-A78AE v8.2 64-bit CPU
Deep-Learning Accelerator
2x NVDLA v2
Memory
64GB 256-bit LPDDR5
Storage
64GB eMMC 5.1
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson AGX Orin Industrial 64GB
900-13701- 0080-000
GPU
2048-core NVIDIA Ampere architecture GPU with 64 Tensor Cores
CPU
12-core Arm Cortex-A78AE v8.2 64-bit CPU
Deep-Learning Accelerator
2x NVDLA v2
Memory
64GB 256-bit LPDDR5
Storage
64GB eMMC 5.1
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson AGX Orin 64GB Module
900-13701-0050-000
GPU
2048-core NVIDIA Ampere architecture GPU with 64 Tensor Cores
CPU
12-core Arm Cortex-A78AE v8.2 64-bit CPU
Deep-Learning Accelerator
2x NVDLA v2
RAM
64GB 256-bit LPDDR5
Storage
64GB eMMC 5.1
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Orin NX 16GB
900-13767-0000-000
GPU
1024-core NVIDIA Ampere architecture GPU with 32 Tensor Cores
CPU
8-core Arm Cortex-A78AE v8.2 64-bit CPU
Deep-Learning Accelerator
2x NVDLA v2
RAM
16GB 128-bit LPDDR5
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Orin Nano 8GB Development Kit
945-13766-0005-000
GPU
1024-core NVIDIA Ampere architecture GPU with 32 Tensor Cores
CPU
6-core Arm Cortex-A78AE v8.2 64-bit CPU
RAM
8GB 128-bit LPDDR5
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Orin Nano 8GB
900-13767-0030-000
GPU
1024-core NVIDIA Ampere architecture GPU with 32 Tensor Cores
CPU
6-core Arm Cortex-A78AE v8.2 64-bit CPU
RAM
8GB 128-bit LPDDR5
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Orin NX 8GB
900-13767-0010-000
GPU
1024-core NVIDIA Ampere architecture GPU with 32 Tensor Cores
Deep-Learning Accelerator
1x NVDLA v2.0
CPU
6-core Arm Cortex-A78AE v8.2 64-bit CPU
RAM
8GB 128-bit LPDDR5
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Orin Nano 4GB
900-13767-0040-000
GPU
512-core NVIDIA Ampere architecture GPU with 16 Tensor Cores
CPU
6-core Arm Cortex-A78AE v8.2 64-bit CPU
RAM
4GB 64-bit LPDDR5
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson AGX ORIN Module 32GB
900-13701-0040-000
GPU
1792-core NVIDIA Ampere architecture GPU with 56 tensor cores
Deep Learning Accelerator
2x NVDLA v2.0
CPU
8-core Arm Cortex-A78AE v8.2 64-bit CPU
RAM
32GB 256-bit LPDDR5
Storage
64GB eMMC 5.1
Warranty
includes 3 Years Parts Warranty
NVIDIA Jetson Nano Module
900-13448-0020-000
GPU
128-core NVIDIA Maxwell GPU
CPU
Quad-core ARM A57 CPU
RAM
4 GB 64-bit LPDDR4
Storage
16 GB eMMC 5.1
Warranty
includes 3 Years Parts Warranty
Optimale Leistung mit NVIDIA
NVIDIA verfolgt einen Full-Stack-Architekturansatz, der sicherstellt, dass KI-gestützte Anwendungen mit optimaler Kosteneffizienz betrieben werden können. Das Resultat sind schnellere Ergebnisse bei reduzierten Betriebskosten. NVIDIA AI Enterprise, eine unternehmensgerechte Inferenzplattform, umfasst erstklassige Software, zuverlässiges Management, Sicherheit und API-Stabilität, um Leistungsfähigkeit und Hochverfügbarkeit zu gewährleisten.
Weitere Fragen zu AI Inferencing?
Jetzt sysGen kontaktieren
FAQ - AI Inferencing & Generative AI
- Was ist generative KI?
Generative KI ist eine Technologie, die auf bestehenden Daten neue Inhalte erstellt, sei es Text, Bild, Video oder andere Datenformen.
- Wie kann mein Unternehmen von KI profitieren?
KI kann die Produktivität steigern, Abläufe optimieren, datengestützte Entscheidungen ermöglichen und die Kundenerfahrung verbessern.
- Welche NVIDIA-GPUs sind für AI-Inferencing geeignet?
NVIDIA bietet eine Reihe von GPUs wie H100 NVL, H200 NVL, L40S, L40 und L4, die speziell für AI-Inferencing und Training optimiert sind.