News AMD Instinct MI300X: KI-Sprachmodellbeschleuniger mit 750 W TDP

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu AMD Instinct MI300X: KI-Sprachmodellbeschleuniger mit 750 W TDP

AMDs Instinct MI300X ist ein KI-Beschleuniger für Sprachmodelle mit einer TDP von 750 W, wie das Kleingedruckte einer AMD-Pressemitteilung kürzlich verriet. Die Markteinführung ist für das dritte Quartal 2023 geplant.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: AMD Instinct MI300X: KI-Sprachmodellbeschleuniger mit 750 W TDP

 

[Schori]

Die 700W TDP an sich klingen erstmal nach viel aus aber man muss das in Relation zur gebotenen Leistung sehen.
Weiß da jemand mehr?

 

[Turbo1993]

Die 700W TDP an sich klingen erstmal nach viel aus aber man muss das in Relation zur gebotenen Leistung sehen.
Weiß da jemand mehr?

Im Bereich von HPC muss man TDP anders bewerten. Wenn man HPC kauft, dann gibt mal als Zielstellung die Gesamt-Performance des Systems an, z.B. 1 EFlop/s. Dann liegt es beim Hersteller, wie die erreicht wird. Das kann mit wenigen Leistungsstarken und vielen Leistungsschwachen Knoten passieren. Allerdings entstehen dadurch neue Faktoren, die der potenzielle Käufer auch betrachtet, wie der Gesamtverbrauch des Systems. Und es hat sich herausgestellt, das Daten transportieren mit Abstand der energieintensivste Prozess im HPC ist, weshalb man die Daten möglichst in einen Knoten halten will. Dadurch müssen die Knoten Leistungsfähiger werden und brauchen mehr Strom. Dafür kann man die Anzahl an Knoten reduzieren und der HPC wird insgesamt Effizenter.

Was ich allerdings als Marketing abtun würde ist, dass der vorrangig MI300X ein KI-Beschleuniger ist. Das kann der Zwar auch beschleunigen, aber Nvidia konzentriert sich hier viel mehr darauf. Dagegen hat AMD mehr die klassischen Simulation im Blick, wo viel 64 Bit Gleitkomma-Operationen notwendig. Genau das, was wir z.B. brauchen.

 

[DoctorChandra]

Was die Anderen können, kann AMD auch.

 

[Shinna]

AMDs Fokus liegt beim MI300(X) ein Stück weit in der Zukunft. Da wird Richtung Zetta-Scaling geschaut. Wenn man von Exxa-Scale auf Zetta-Scale kommen möchte gibt es nämlich ein gravierendes Problem: Der Energieverbrauch.

Das Problem ist nicht mal der derzeitige Performancegewinn. Aktuell verdoppelt sich ungefähr alle 2,2 Jahre die Effizienz eines Supercomputers. Möchte man Mitte der 2030iger einen Zetta-Scale System bauen wäre das mit Hardware, basierend auf aktuellen Entwicklungen, kaum möglich. Ein entsprechender Rechner würde basierend auf der aktuellen Entwicklung ca. die Hälfte an Leistung eines kleinen AKWs benötigen. Ein gutes Video zum MI300 bietet High Yield mit seinem Deep Dive.

Eingebundener Inhalt

Youtube

youtube.com/watch/?v=l1haa0P1MEQ

An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Alle externen Inhalte laden Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.

 

[Expertenstatement]

Einfach nur beeindrucken was AMD hier wieder für ein Hochleistungsprodukt auf die Beine gestellt hat.