NVIDIA RTX PRO 6000 Blackwell Server Edition
Die RTX PRO 6000 Blackwell Server Edition bringt 96 GB GDDR7 und Tensor Cores der fünften Generation auf eine Standard-PCIe-Karte. Wir dimensionieren, bauen, installieren und betreuen RTX PRO Server in UK – vom 2U-Knoten mit vier GPUs bis zum Rack mit 32 GPUs.
Die RTX PRO 6000 Blackwell Server Edition ist NVIDIAs Rechenzentrumsversion seiner leistungsstärksten professionellen RTX-GPU. Sie betreibt große Sprachmodelle und KI-Agenten und bietet zugleich RT Cores, Video-Engines und Display-Ausgänge für Rendering, digitale Zwillinge und Videoarbeit. Ein Kartentyp kann daher mehrere Teams bedienen.
Sie ersetzt die L40S als NVIDIAs Allzweck-PCIe-GPU für das Rechenzentrum. Gegenüber der L40S verdoppelt sie den Speicher (96 GB statt 48 GB), verdoppelt nahezu die Bandbreite, ergänzt FP4-Präzision und lässt sich mit Multi-Instance GPU (MIG) in vier isolierte GPUs aufteilen.
| GPU-Architektur | NVIDIA Blackwell |
|---|---|
| CUDA-Kerne | 24,064 |
| Tensor Cores | 752, fünfte Generation (FP4, FP6, FP8, FP16, BF16, TF32) |
| RT Cores | 188, vierte Generation |
| FP4 Tensor Core | 4 PFLOPS |
| FP8 Tensor Core | 2 PFLOPS |
| FP16-/BF16-Tensor-Core | 1 PFLOPS |
| TF32 Tensor Core | 234 TFLOPS |
| FP32 | 120 TFLOPS |
| Spitzenleistung der RT Cores | 355 TFLOPS |
| GPU-Speicher | 96 GB GDDR7 mit ECC |
| Speicherschnittstelle und Bandbreite | 512 Bit, 1.597 GB/s |
| Multi-Instance GPU | Bis zu 4 isolierte Instanzen |
| Media-Engines | 4 × NVENC (9. Gen.), 4 × NVDEC (6. Gen.) |
| Display-Ausgänge | 4 × DisplayPort 2.1 |
| Host-Schnittstelle | PCIe Gen 5 x16 |
| Maximale Leistungsaufnahme | Bis zu 600 W, konfigurierbar |
| Formfaktor | Luftgekühlt: Dual-Slot, volle Höhe, volle Länge, passiv. Flüssigkeitsgekühlt: Single-Slot |
| Sicherheit | Secure Boot mit Hardware-Root-of-Trust |
Angaben von NVIDIAs Produktseite und Datenblatt. Tensor-Core-Werte sind NVIDIAs Spitzenwerte; der reale Durchsatz hängt von Modell, Präzision und Software ab.
96 GB fassen ein Modell mit 70 Milliarden Parametern in FP8 auf einer Karte oder ein deutlich größeres verteilt auf vier oder acht. FP4 halbiert den Speicherbedarf für Modelle, die es vertragen, noch einmal grob.
Omniverse- und OpenUSD-Szenen, synthetische Daten für Robotik und Vision sowie Simulation – auf denselben GPUs wie die Modelle, die sie nutzen.
RT Cores, DLSS 4 und neuronale Shader für das Final-Frame-Rendering, dazu vier Encoder und vier Decoder für Videopipelines und Streaming.
120 TFLOPS FP32 für Simulations- und Engineering-Codes sowie GPU-beschleunigte Data Science mit RAPIDS.
Teilen Sie GPUs mit MIG oder NVIDIA Virtual-GPU-Software zwischen Designern und Ingenieuren, damit CAD- und Visualisierungsnutzer nicht jeweils einen eigenen Tower brauchen.
Betreiben Sie tagsüber Inferenz und nachts Rendering oder Fine-Tuning auf denselben Servern, statt separate Flotten zu kaufen.
RTX PRO 6000-Karten passen in Standard-PCIe-Server. Dies sind die drei Größen, nach denen wir am häufigsten gefragt werden.
384 GB GPU-Speicher in einem 2U-Gehäuse, das in ein vorhandenes Rack passt. Gut geeignet für den privaten Assistenten einer Abteilung, Retrieval-Augmented Generation (RAG) über Unternehmensdokumente oder einen ersten produktiven Inferenzdienst.
Etwa 3 bis 3,5 kW bei voller GPU-Leistung
768 GB GPU-Speicher. MGX-Server wie der AMAX AceleMax AXG-428AG kombinieren acht Dual-Slot-GPUs mit zwei AMD EPYC 9005-Prozessoren, bis zu fünf PCIe Gen 5 x16-Steckplätzen für Netzwerkkarten und acht E1.S-Laufwerken.
Etwa 6 bis 7 kW bei voller GPU-Leistung
Vier Server mit je acht GPUs, verbunden über Spectrum-X Ethernet oder Quantum InfiniBand: rund 3 TB GDDR7 und 128 PFLOPS FP4 in einem Rack. AMAX vertreibt dieses Design als RackScale 32. Es eignet sich für Inferenz im großen Maßstab, Multi-Agenten-Systeme und große Renderfarmen.
Planen Sie 25 bis 30 kW pro Rack ein
| RTX PRO 6000 Blackwell Server Edition | L40S | |
|---|---|---|
| Architektur | Blackwell | Ada Lovelace |
| GPU-Speicher | 96 GB GDDR7 ECC | 48 GB GDDR6 ECC |
| Speicherbandbreite | 1.597 GB/s | 864 GB/s |
| CUDA-Kerne | 24,064 | 18,176 |
| Tensor Cores | 752 (5. Gen.) | 568 (4. Gen.) |
| RT Cores | 188 (4. Gen.) | 142 (3. Gen.) |
| FP32 | 120 TFLOPS | 91,6 TFLOPS |
| FP4 | Ja | Nein |
| MIG | Bis zu 4 Instanzen | Nein |
| PCIe | Gen 5 x16 | Gen 4 x16 |
| Maximale Leistungsaufnahme | Bis zu 600 W | 350 W |
| Video-Engines | 4 NVENC / 4 NVDEC | 3 NVENC / 3 NVDEC |
Die L40S ist weiterhin eine sinnvolle Wahl, wenn Strom knapp ist oder die Modelle in 48 GB passen. Wo nicht, braucht die RTX PRO 6000 für dieselbe Aufgabe meist weniger GPUs.
Wir ermitteln GPU-Speicher, Nutzerzahl und Storage anhand Ihrer Modelle, Kontextlängen und Ihres Datenverkehrs und wählen das kleinste System, das die Aufgabe erfüllt.
Ein schriftliches Angebot mit der genauen Konfiguration, der Lieferzeit sowie der benötigten Stromversorgung und Kühlung.
Wir installieren das Betriebssystem, die NVIDIA-Rechenzentrumstreiber, CUDA, das Container-Toolkit und Ihren Inferenz- oder Rendering-Stack und führen anschließend einen Burn-in unter Volllast durch.
Wir liefern an Ihren Standort oder Ihr Rechenzentrum, bauen ins Rack ein, verkabeln und betreuen das System aus UK – mit der Herstellergarantie für die Hardware.
Nein. Beide haben 96 GB GDDR7, aber die Server Edition ist passiv gekühlt und auf die Lüfter des Servers angewiesen, hat ein konfigurierbares Leistungslimit bis 600 W und ist auch als flüssigkeitsgekühlte Single-Slot-Version erhältlich. Die Workstation Edition hat eigene Lüfter für Desktop-Tower, und die Max-Q Workstation Edition läuft mit 300 W.
Etwa 70 Milliarden Parameter in FP8 oder ungefähr das Doppelte in FP4, wobei etwas Speicher für den KV-Cache bleibt. Lange Kontexte und viele Nutzer brauchen mehr Speicher, daher dimensionieren wir anhand Ihrer realen Kontextlängen und Parallelität.
Nein. Die GPUs kommunizieren über PCIe Gen 5 miteinander. Das reicht aus, um viele Kopien eines Modells oder ein auf wenige GPUs verteiltes Modell zu betreiben. Für große Trainingsjobs, die NVLink benötigen, kommen HGX B200- oder B300-Systeme infrage.
Ja. MIG teilt eine Karte in bis zu vier isolierte GPUs mit jeweils eigenem Speicher und eigener Rechenleistung auf. Für virtuelle Desktops ist NVIDIAs Virtual-GPU-Software eine weitere Option.
Das hängt von der GPU-Verfügbarkeit und dem gewählten Server ab. Jedes Produkt im Shop zeigt unsere aktuelle Lieferzeit, und Ihr Angebot bestätigt sie vor der Bestellung.
NVIDIA, das NVIDIA-Logo, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum und DLSS sind Marken und/oder eingetragene Marken der NVIDIA Corporation in den USA und anderen Ländern. AMAX und AceleMax sind Marken der AMAX Engineering Corporation. AMD und EPYC sind Marken von Advanced Micro Devices, Inc. Alle anderen Marken gehören ihren jeweiligen Inhabern. Workstation beschreibt diese Produkte als unabhängiger Anbieter; eine Billigung durch die Inhaber ist nicht impliziert. Das Produktvideo stammt von NVIDIA.