GTC 2022: Livestream für Next-Gen-GPUs heute ab 16:00, neueste Leaks

[RawMangoJuli]

Der große Sprung von 400 auf 700 W bleibt (A100 -> H100).

Und wieder nur 5 HBM Stacks aktiv.

Nur die SXM Dinger haben HBM3.

Würd mich mal interessieren wieviel der dazu beiträgt.

 

[DARPA]

Nur die SXM Dinger haben HBM3.

Ajo stimmt, kann man schnell überlesen.

Ok, bei der PCIe-Version bleibt man im gleichen TDP-Budget.
Trotzdem ungewöhnlich der Unterschied, selbst wenn sich HBM3 den Mehrtakt nur mit höherer Leistungsaufnahme erkämpft.

 

[MircoSfot]

Wo sind denn die RTX 4000er? Wurden die schon weggekauft?

 

[rum]

1.400 Redner? Da gibt es es wohl einen hohen Redebedarf

 

[gerX7a]

Oh es scheint sogar TSMC 4nm zu sein.

Konkret spricht nVidia hier von einem "4N", also wird das erneut ein minimal semi-customed N4 sein, der 3rd Gen 5nm-Prozess von TSMC. Gegenüber dem was der N5P bietet, wird hier auch eine zusätzlich höhere Logikdichte geboten (ein wenig mehr EUV und eine optimierte Cell Geometry so wie einige Design Rule-Anpassungen). Man darf gespannt sein wenn erste Details zur Chipgröße und zum Takt bekannt werden.

@gerX7a
80 Milliarden und 814mm² also ~100 Millionen Transistoren /mm²

Wenn die Chipgröße korrekt sein sollte, dann durchaus "konservativ" ausgelegt, denn wie gesagt, kann der N4 noch etwas dicher als der N5(P) packen (s.o.).

700W ist aber auch nen krasser Sprung. Fast doppelt so hoch wie A100

Spielt in dem Kontext keine Rolle. Die Perf/Watt nimmt deutlich zu, konkret um +70 % in nur zwei Jahren, ist also ein beträchter Sprung. Die Industrie wird denen die neue DGX absehbar erneut aus den Händen reißen.

>> Und wieder nur 5 HBM Stacks aktiv.

Natürlich, das sind 12 HBM-Controller wie bei Ampere. Wäre nur ein einziger defekt, müsste man den ganzen Chip downgraden oder gar entsorgen, wenn man den H100 auf 6 Stacks/12 Controller auslegen würde.
Darüber hinaus kann man hier vielleicht Ende 2023 ggf. ebenso erneut wie bei Ampere ein Speicherupgrade erwarten. 12-hi-Stacks dürften mit HBM3 vergleichsweise schnell folgen, d. h. ein 120 GB-Modell kommt vielleicht als Zwischenschritt.

>> ... selbst wenn sich HBM3 den Mehrtakt nur mit höherer Leistungsaufnahme erkämpft.

Das Speicherlayout ist grundsätzlich vergleichbar zu Ampere, d. h. man kann annehmen, dass das Speichersubsystem von Hopper absolut gesehen weniger als das von Ampere verbrauchen wird, da HBM3 effizienter sein soll.

700W ist ne ungewöhnliche Angabe.

Hatte mal gelesen, das der Spike-Wert mit PCiE 5.0-Stecker bei 684W liegen soll.
oder
Hätte man dann 684W@PCiE+75W Slot?

Das SXM hat nichts mit einem PCIe-Stecker zu tun.
Wie schon angekündigt wird es von Hopper später auch PCIe-Karten geben (ebenso wie von A100), der Verbrauch und die Leistung wird bei diesen jedoch absehbar niedriger liegen.

Wo sind denn die RTX 4000er? Wurden die schon weggekauft?

Hier ging es ausschließlich um den industriellen/wissenschafltichen Bedarf. Dass Lovelace noch nicht vorgestellt oder auch nur erwähnt wurde, war sehr wahrscheinlich (und hat sich nun bestätigt ).


*) Interessant ist aber auch durchaus, wie viele N4-Kapazitäten nVidia offensichtlich bei TSMC gebucht hat und nutzt, denn Hopper ist ja nicht deren einziges Design. Beispielsweise auch deren Spectrum-4 Ethernet-Switch-Chip, ein 100 Mrd. Transistor-Monster im N4, ist ein weiteres Design auf dem Prozess und wesentlicher Bestandteil von deren Datacenter-HW-Portfolio.
Nicht weniger interessant dürfte auch deren Grace-CPU sein, die in 2023 erscheinen soll und offensichtlich sehr leistungsfähig werden wird und sie anscheinend komplett unabhängig von bspw. x86-CPUs oder anderen ARM-Herstellern machen wird.

 

[owned139]

Der große Sprung von 400 auf 700 W bleibt (A100 -> H100).

Und? 1,75x mehr Verbrauch für die 3x Leistung. Für drei A100 (in Summe 1200W) kannst du auch einen H100 nutzen und sparst dabei 500W.

 

[troppa]

Hm, dann wird wohl DGX H100 die letzte Generation mit Intel Prozessoren bevor dann zu Nvidia CPUs (Dual Grace?) gewechselt wird.
Die H100 PCIe Karten haben dann offensichtlich wieder 100 Watt Handicap...
Und N4 kitzelt wohl 5% mehr Performance bei gleicher Leistungsaufnahme aus dem "normalen" N5, zumindest lt. TSMC...

Edit: H100 hat wohl 80 GB HBM3. Und Funfact die 8 GPUs im DGX H100 brauchen genauso viel Energie wie ein DGX A100 der letzten Generation. Bye Bye meine 250 Watt Grafikkartenträume...