Hopper: Nvidia präsentiert H100-GPU mit 80 Milliarden Transistoren

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu Hopper: Nvidia präsentiert H100-GPU mit 80 Milliarden Transistoren

Jensen Huang stellte im Rahmen des Keynotes zur GTC 2022 die neue Hopper-Architektur mit der ersten GPU, dem H100, vor. Die Hopper-Architektur soll gegenüber dem Vorgänger Ampere deutlich leistungsstärker sein sowie unter anderen über 80 Milliarden Transistoren und eine TDP von 700 W verfügen.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: Hopper: Nvidia präsentiert H100-GPU mit 80 Milliarden Transistoren

 

[Edelhamster]

 

[gerX7a]

Den hättest du dir vielleicht lieber für die Consumer-NextGen aufheben sollen?
Die absolute Verlustleistung ist hier sekundär, da Hopper deutlich effizienter als Ampere geworden ist. Absehbar wird die gesamte Industrie denen das neue Design erneut aus den Händen reißen.

 

[FetterKasten]

700 Watt? Das ist ja mittlerweile lächerlich wie der Zeitgeist an Nvidia vorbei geht

 

[onkel-foehn]

"Zwanzig solcher H100-GPUs allein sollen den gesamten Internetverkehr der Welt aufrechterhalten können"

Ob so viele überhaupt den Markt erreichen ?!?

MfG Föhn.

 

[CvBuron]

Welcher Zeitgeist ? Das Ding ist nicht für zuhause, das geht in 99% der Fälle direkt ins Rechenzentrum. Und da zählt in der Regel weniger die Leistungsaufnahme als die Rohleistung.

 

[Thepunisher2403]

700 Watt? Das ist ja mittlerweile lächerlich wie der Zeitgeist an Nvidia vorbei geht

1,75 x mehr Watt für 3x Performance also bitte

Für drei A100 (in Summe 1200W) kannst du auch einen H100 nutzen und sparst dabei 500W.

So jetzt sag mir nochmal wo der Zeitgeist an nvidia vorbei geht

 

[wurstkuchen]

" soll gegenüber dem Vorgänger Ampere deutlich leistungshungriger sein " Hoppler!

 

[Technologie_Texter]

700 Watt? Das ist ja mittlerweile lächerlich wie der Zeitgeist an Nvidia vorbei geht

Wie kommst du darauf?

 

[Lohnkrake]

Wenn ich es richtig verstanden habe, werden zwar 300W mehr verbraucht, aber die Arbeitsleistung verdreifacht?

Das muss man Nvidia anerkennen.
Bin mal echt gespannt, ob sich dies auch auf die Lovelace-Karten übertragen lässt.

 

[Mephisto_xD]

700 Watt? Das ist ja mittlerweile lächerlich wie der Zeitgeist an Nvidia vorbei geht

Quark. Das ist eine HPC Karte, da kommt es nur darauf an wie viel Rechenleistung man pro Watt erhält, und wie viel man in ein Rack packen kann. Hopper schafft in beiden Fällen deutliche Verbesserungen gegenüber Ampere.

Zwanzig solcher H100-GPUs allein sollen den gesamten Internetverkehr der Welt aufrechterhalten können.

Ist das nur Marketing BS bei dem man einfach die Speichertransferrate hochgerechnet hat, oder hat man das irgendwie näher erklärt? Mir will nicht so ganz einleuchten wie zwanzig GPUs irgendwelchen Netzwerkverkehr aufrecht erhalten können...

Ansonsten könnte ich nämlich auch behaupten, dass ich den gesamten Internetverkehr aufrecht erhalten kann indem ich ein paar Festplatten durch die Gegend trage...

 

[Technologie_Texter]

Wenn ich es richtig verstanden habe, werden zwar 300W mehr verbraucht, aber die Arbeitsleistung verdreifacht?

Das muss man Nvidia anerkennen.

Naja, das war mit 4nm ja auch so zu erwarten

 

[4B11T]

700 Watt? Das ist ja mittlerweile lächerlich wie der Zeitgeist an Nvidia vorbei geht

Vielleicht erstmal den Artikel lesen? Hier geht's nicht um Gaming oder Alltagsszenarien. Die Karte scheint ein vielfaches an Mehrleistung als ihre Vorgänger zu bieten, kann also mehrere Karten ersetzen und hat dabei einen niedrigeren Stromverbrauch. Zeitgeist demnach nicht an Nvidia vorbei gegangen. Alles wird gut.

 

[Lexx]

Absehbar wird die gesamte Industrie denen das neue Design erneut aus den Händen reißen.

Ist ja auch für Rechenzentren und nicht für den
notorisch dauerpolemisierenden Forenschreiber.

 

[gerX7a]

[...] Bin mal echt gespannt, ob sich dies auch auf die Lovelace-Karten übertragen lässt.

Kann man aktuell noch nicht beantworten, da man ...
a) nicht weiß ob der N4 (oder von nVidia "4N" genannt) auch bei den Consumer-Modellen zum Einsatz kommt. Denkbar wäre hier bei den Topmodellen auch eine Beschränkung auf den günstigeren N5P. Nimmt man es sogar ganz genau, ist nicht einmal klar, ob Lovelace überhaupt bei TSMC gefertigt wird, da das bisher noch keinesfalls bestätigt ist sondern nur implizit aus dem bei TSMC gebuchten Volumen geschlossen wurde, jedoch fertigt nVidia dort bspw. schon Hopper sowie den nochmals größeren Spectrum-4, die bspw. beide im N4/4N gefertigt werden.
b) ist nicht klar, in welchem Rahmen sich bzgl. der TBP eine RTX 4090 bewegen wird. Aktuell bewegen sich Spekulationen hier im Bereich von 450 - 600 W (wobei größere Werte mittlerweile bzgl. der regulären TBP gesichert ausgeschlossen werden können). Jedoch bereits diese Spanne macht viel aus bzgl. einer Berechnung der Zugewinne.
c) kennt man zudem die Auswirkungen der architektonischen Umbauten nicht. Die zu Hopper kommunizierten TFlops-Werte haben erst mal wenig mit Grafikleistung zu tun.
d) und schlussendlich schwanken ja auch noch die kolportierten Leistungszugewinne von +60 % bis +100 %, was die Unsicherheiten bzgl. der hinzugewinnbaren Effizienz höchst variabel werden lässt.

Am Ende wird man abwarten müssen, aber man kann vermuten, dass man mit etwas wie bspw. einer RTX 4070 (geringfügig?) mehr als die Leistung einer RTX 3090 erhalten wird (voraussichtlich im Raytracing gar überproportional mehr) bei deutlich unter 300 W TBP (wenn bei TSMC gefertigt; bei Samsung würde man nicht ganz so gute Werte präsentieren können).
Letzten Endes wird die Betrachtung aber erst so richtig rund, wenn man auch berücksichtigt was die Konkurrenz abliefern wird, also AMD möglicherweise Ende 2022 (hier weiß man noch nicht genau ob die HighEnd-MCM-Karten noch in diesem Jahr oder erst Anfang des nächsten Jahres kommen) und Intel mit Battlemage ebenso als MCM in einem bisher noch unbekanntem Fertigungsprozess (5nm oder kleiner) in 2023 (zur Jahresmitte oder etwas später?).

 

[PCGH_Dave]

• 80 GiByte HBM2e, 5 HBM2e-Stapel, zehn 512-Bit-Speichercontroller

Dann kann @PCGH_Raff endlich alles in 16K zocken und braucht mit seiner bald gammeligen 3090 Ti und den schmalen 24 GiB nicht mehr sparen.
Ich bin gespannt, wie viel vom dem Chip in den beschnittenen Gaming-GPUs übrig bleibt.

 

[twack3r]

Dann kann @PCGH_Raff endlich alles in 16K zocken und braucht mit seiner bald gammeligen 3090 Ti und den schmalen 24 GiB nicht mehr sparen.
Ich bin gespannt, wie viel vom dem Chip in den beschnittenen Gaming-GPUs übrig bleibt.

Gibt es denn irgendeine Indikation, dass die Architektur von Hopper und Lovelace in irgendeiner Art und Weise derart start korrelieren, dass man bei den Lovelace GPUs von ‚beschnittenen‘ Chips sprechen kann?

Oder dass man damit (Hopper) ‚endlich alles in 4K zocken‘ kann?

Frage ist an einen PCGH Redakteur gewendet. Der wird sich ja auskennen.

Denn ansonsten müsste man diesen Post wegen OT löschen.

 

[PCGH_Dave]

Wir sind nicht allwissend, nur weil unser Username grün ist. Ich wollte Raff nur wegen des Speichers necken, das musst du nicht verstehen

 

[Firestar81]

Zuerst 2,5 Fache Leistung von Ampere ,vorgestern 2 fache Leistung ,heute dann reale 1,5 Fache Leistung ? weiter runter wird's wohl nicht gehen...Mal sehen wo die Gamer bzw. Miner Grafikkarten landen.

 

[JoM79]

Jede GPU in einem DGX-H100-System ist zudem über NVLink verbunden und biete eine Übertragungsgrate von 900 GB/s, was etwa das 1,5-fache der vorherigen Ampere-Architektur darstelle

Wo steht was von 1,5facher Leistung?