News Großangriff auf Nvidia: AMD wappnet sich mit den Instinct MI300 und bis zu 1,5 TByte HBM3-Speicher für das KI-Wettrüsten

[Ishe]

Im KI Geschäft gibt es immer einen hohen Bedarf grad.
Auf deutsch: Der Kuchen ist noch groß genug. Nvidias Marge liegt bei über 1000% bei einem Beschleuniger.

Wann kann AMD liefern und das in großen Stückzahlen?

Die nächste Frage wäre wohin wird geliefert und in welchen Stückzahlen? China wird ja wohl für AMD genauso wegfallen.

Gibt sich jemand den Streß von NVIDIA auf AMD umzusteigen? Zeit ist Geld...

 

[gerX7a]

Die GPU will hier vermutlich jeder haben, aber leider fehlt der Preis

Lol, die "GPU" will hier gesichert niemand haben, denn das ist keine GPU, sondern ein reiner Compute-Beschleuniger, der auf CDNA3 basiert, das nicht auf Rendering ausgelegt ist.

Es ist ein Katz und Maus Spiel.
Nvidia ist mit dem H100 schon seit März auf dem Markt, so hatte AMD nun 9 Monate um an der Leistung zu feilen.
Anders gesagt H100 ist schon 9 Monate alt, wurde aber halt schon 9 Monate lang an den Kunden gebracht.

"Bald" bringt Nvidia den H200 raus und dann ist AMD wieder hinten.

Wenn mal beide etwas gleichzeitig rausbringen würden, dann wird es spannender...

Jain, nicht so ganz, nVidia bleibt hier ziemlich unangefochten die Katze.
Die H100 wird bereits seit Ende 2022 von den großen OEMs verkauft, lediglich die DGX-Station ist erst in 1Q23 in den Markt gekommen, d. h. nVidia verkauft die H100 schon seit über einem Jahr, während AMD jetzt gerade erst mit der MI300X (der GPU) in den Markt kommt.
Und nVidia scheint hier schon vor längerer Zeit die Weichen für eine angemessene Reaktion gestellt zu haben, da der H200 mit HBM3e in wenigen Monaten nachgereicht werden wird und gegen den scheinen AMDs Leistungswerte nicht mehr so überragend auszusehen, da der (wie schon beim Upgrade der A100) beträchtlich zulegen wird. Und entgegen AMD, die jetzt gerade erst in Teilen in den Markt kommen (bzw. die MI300A wird überhaupt erst im 1HJ24 verfügbar, vielleicht um den ersten Quartalswechsel herum) und bereits Mitte März wird nVidia auf seiner GTC die NextGen Blackwell vorstellen, der zudem nachgesagt wird, dass die (aufgrund der AI-Blase) nun etwas früher im Jahr verfügbar werden soll, also vermutlich bereits in 3Q24.

Wenn AMD seine Karten richtig ausspielt, können sie sich jedoch zumindest einen Teil des Marktes sichern, zwar auf Kosten der Marge, aber da nVidia den Markt nicht gesättigt bekommt, weil die Nachfrage anscheinend zu groß für ihre Fertigungskapazitäten ist, besteht hier großes Potential für AMD.

Ist AMD von den Ausfuhrbeschränkungen nach China auch betroffen?

Lol, selbstredend, AMD ist ein US-Unternehmen.

 

[Ishe]

Lol, selbstredend, AMD ist ein US-Unternehmen.

Hat nichts mit US-Unternehmen zutun. Sondern damit, wen oder was die US-Regierung sanktionieren möchte. Völlig egal aus welchem westlichen Land. Lol

 

[xxxxx1]

Wo sich KI einsetzen lässt ... ? Ich glaub da wird satt Kohle gescheffelt und das ist nahezu unbegrenzt. Medizin, Banken, Klimaforschung, Werkstoffe, Mobilität, Versicherungen, Genetik, Unterhaltung, Behörden .... und zum Mars gehts auch noch. Und in jedem Hühnerstall wird wohl alles optimiert, selektiert, reduziert, drangsaliert ... allein die zukünftig intelligente grüne Energieinfrastruktur wirds wohl krachen lassen.

Anwendungsgebiete von künstlicher Intelligenz

Einsatzgebiete von KI in der Praxis. Wir zeigen wo Künstliche Intelligenz heute von Wirtschaft und im Alltag genutzt wird.

datasolut.com

Da könnten wir glaube ich einen ganzen Tag nen Brainstorming machen wos demnächst Kohle zu drucken gibt. Und AMD wäre echt zu blöd würdens sich das Geschäft durch die Lappen gehen lassen. Zudem wenn sie auf eine effiziente IT-Infrastruktur setzen die nicht das Klima verheizt.

 

[theGucky]

Hat nichts mit US-Unternehmen zutun. Sondern damit, wen oder was die US-Regierung sanktionieren möchte. Völlig egal aus welchem westlichen Land. Lol

Doch. Wenn ein Unternehmen NICHTS in der USA verkauft, dem kann die Sanktion egal sein. Das gleiche mit US-Patenten... Man muss erst mal ins Land kommen um dort verklagt zu werden.

Das sind nicht 1% sondern deutlich mehr. Aber muß schon filtern bzw wissen welche Seiten man aufruft.

In der Zukunft werden Deepfakes alle erdenklichen Plattformen und Messenger fluten.
Und jeder Laie kann sie relativ leicht herstellen. Dank der K.I.s.
Da sie immer echter aussehen, wird es schwerer diese zu erkennen.
Selbst Experten haben damit teilweise schon Probleme.

Ich meine 1% gutes Zeug und 99% schlechtes Zeug das man rausfiltern muss um die 1% zu finden.

 

[Nexus83]

Wann kann AMD liefern und das in großen Stückzahlen?

Die nächste Frage wäre wohin wird geliefert und in welchen Stückzahlen? China wird ja wohl für AMD genauso wegfallen.

Gibt sich jemand den Streß von NVIDIA auf AMD umzusteigen? Zeit ist Geld...

Die Fragen wurden doch schon beantwortet. MI300 wird bereits ausgeliefert. Die Firmen welche sich Instinct Beschleuniger bestellt haben sind wie gesagt bekannt. Wenn AMD dort lieferfähig ist wenn Nvidia Lieferprobleme hat (was sie ja bereits haben) haben sie eine nicht unbeträchtliche Chance auf den AI Kuchen.

 

[Schnitzelnator]

Lol, die "GPU" will hier gesichert niemand haben, denn das ist keine GPU, sondern ein reiner Compute-Beschleuniger, der auf CDNA3 basiert, das nicht auf Rendering ausgelegt ist.

Nicht zum Zocken, sondern für AI-Beschleunigung natürlich.

 

[Tolotos66]

Ich will auf meiner Consumer auch wieder HBM haben
Gruß T.

 

[RyzA]

Ich meine 1% gutes Zeug und 99% schlechtes Zeug das man rausfiltern muss um die 1% zu finden.

Das habe ich verstanden. Ich meinte nur das es mehr als 1% Gutes sind.

 

[Bärenmarke]

Jain, nicht so ganz, nVidia bleibt hier ziemlich unangefochten die Katze.

Das stimmt mal wieder nicht, in einigen Bereichen wird nvidia deutlich übertroffen wie man anhand der Zahlen der Präsentation sehen kann. Diese müssen dann nur noch von unabhängigen Stellen bestätigt werden.

Und beispielsweise GH wird von der MI300A vollkommen rasiert. Was aber konzeptionell bedingt davor schon klar war.

Die H100 wird bereits seit Ende 2022 von den großen OEMs verkauft, lediglich die DGX-Station ist erst in 1Q23 in den Markt gekommen, d. h. nVidia verkauft die H100 schon seit über einem Jahr, während AMD jetzt gerade erst mit der MI300X (der GPU) in den Markt kommt.

Und wo ist das Problem? Bei den Profikarten waren die Release der beiden immer versetzt und so hat man einen spannenden Schlagabtausch

Und nVidia scheint hier schon vor längerer Zeit die Weichen für eine angemessene Reaktion gestellt zu haben, da der H200 mit HBM3e in wenigen Monaten nachgereicht werden wird und gegen den scheinen AMDs Leistungswerte nicht mehr so überragend auszusehen, da der (wie schon beim Upgrade der A100) beträchtlich zulegen wird.

Zum einen wird nicht die Menge an Speicher angeboten wie es AMD tut und zum anderen sollte man dann auch erstmal die Performancewerte abwarten. Und wie du oben schon angemerkt hast, liefert jetzt erstmal AMD seine Karten aus.

Und entgegen AMD, die jetzt gerade erst in Teilen in den Markt kommen (bzw. die MI300A wird überhaupt erst im 1HJ24 verfügbar, vielleicht um den ersten Quartalswechsel herum) und bereits Mitte März wird nVidia auf seiner GTC die NextGen Blackwell vorstellen, der zudem nachgesagt wird, dass die (aufgrund der AI-Blase) nun etwas früher im Jahr verfügbar werden soll, also vermutlich bereits in 3Q24.

Der MI300a wird aktuell schon an den Supercomputer ausgeliefert und soll im Q1 dann breit verfügbar sein. Da man nvidia hier konzeptionell überlegen ist sehe ich ehrlich gesagt nicht, wieso AMD hier in Gefahr sein sollte.

 

[MAiKAeFeRLiKoER]

Gibt sich jemand den Streß von NVIDIA auf AMD umzusteigen? Zeit ist Geld...

[Rechen]Zeit ist Geld. Wenn sich herausstellt, dass geneigte Anwender*innen durch den Einsatz einer AMD-basierten Lösung einen gewissen, nicht unerheblichen zeitlichen Vorteil generieren könnten, geht bei einer vorherigen zum Beispiel auf NVIDIA basierten Lösung ganz schnell das Licht aus. hashtag isso.

 

[peru3232]

Doch. Wenn ein Unternehmen NICHTS in der USA verkauft, dem kann die Sanktion egal sein. Das gleiche mit US-Patenten... Man muss erst mal ins Land kommen um dort verklagt zu werden.

leider völlig falsch - DAS sollte man meinen, trifft aber ganz und gar nicht zu. Praktisch jedes Unternehmen ist über Abhängigkeiten direkt erpressbar. Gutes Beispiel dazu z.B. ASML. Denen wäre es egal, wenn sie keine Maschinen nach USA zu Intel verkaufen, nach China würden sie weit mehr los bekommen. Trotzdem machen sie mit...
es reicht auch aus, wenn eine Zulieferfirma von einem essentiellen Teil wiederrum zum Teil abhängig ist, von einem noch kleineren Teil das sanktionierbar ist.

zur Sache: das könnte ein Durchbruch werden - auch softwaremäßig. Da lassen sich große Firmen schon etwas einfallen, wenn sie die Teile rasch bekommen können, wo sie mit nVidia HW mind. 1 Jahr warten müssten. Mal sehn wie es da mit der Lieferbarkeit wirklich aussehen wird...

 

[SIR_Thomas_TMC]

Juhu, KI, jetzt auch von AMD, macht bestimmt die GraKas bei allen Anbietern wieder günstig. ?

 

[wurstkuchen]

Völlig irrelevenat wenn die gesamte """KI""" derzeit auf Cuda programmiert ist und dort deutlich schneller läuft.

 

[Rollora]

Lesen tut sich das ja brachial, mal schauen wenn die grüne Fraktion Ihre Presemtation hält.
Bin gespannt, wobei ich ja KI (Missbrauch) ja absolut grotten mies finde.
Aber die Rechenleistung..toi toi toi

Ich bin jetzt nicht von der grünen Fraktion,
aber hier verhält es sich ähnlich wie Zen vs Intels Core i7 in den letzten Jahren:

das Produkt mag von den Zahlen her super sein, aber Nvidia hat diesen Markt absolut im Griff, auch was Softwaresupport und Co betrifft. Es wird schwer da Fuß zu fassen, ich wünsch es aber natürlich sowohl AMD als auch Intel.

Denn es zeigt sich je mehr Nvidia bei KI verdient, desto weniger Wafer reservieren sie (bei insgesamt beschränktem Kontingent) für Grafikkarten

3dfx hat vor nvidia schon grafikkarten verkauft. Bei der AI befinden wir uns noch in den Kinderschuhen.

Der NV1 war eigentlich vor 3dfx SST1 ("Voodoo 1").
Nvidia hatte aber einfach viel mehr Geld/Investoren und 3dfx wusste nicht in welche Richtung (Features wie TnL) man in diesem völlig neuen Markt gehen sollte. Als man dann die Entwicklungszyklen, Richtung usw endlich gewusst hat, wars zu spät (abgesehen von einigen anderen Fehlentscheidungen und Personalabgang)

 

[Bärenmarke]

das Produkt mag von den Zahlen her super sein, aber Nvidia hat diesen Markt absolut im Griff, auch was Softwaresupport und Co betrifft. Es wird schwer da Fuß zu fassen, ich wünsch es aber natürlich sowohl AMD als auch Intel.

Ist dies wirklich so? Ich hab hier letztens einen Beitrag gelesen, dass die großen Anbieter (Microsoft, Google, Meta usw.) nicht auf Cuda setzen und wenn AMD mit ROCM 6 keinen Mist gebaut hat (muss sich noch beweisen) ist das hier überhaupt kein Problem, gleiches gilt natürlich für intel.

 

[Rollora]

Ist dies wirklich so? Ich hab hier letztens einen Beitrag gelesen, dass die großen Anbieter (Microsoft, Google, Meta usw.) nicht auf Cuda setzen und wenn AMD mit ROCM 6 keinen Mist gebaut hat (muss sich noch beweisen) ist das hier überhaupt kein Problem, gleiches gilt natürlich für intel.

das stimmt: auch war ich im Oktober auf einer Konferenz wo Kollegen ihre Projekte auf Ponte Veccio vorgestellt hsben die teils schneller/effizienter liefen als auf Nvidia Lösungen. Aber overall ist Nvidia hier absolut Marktführer, mit allen Vor- und Nachteilen.

So wurde etwa Zusammenarbeit mit (AMD und Intel)und Support, Software etc im Vergleich zu Nvidia als "in einem Frühstadium" beschrieben.
Es gibt dort schlichtweg die Infrastrukuren und Leute noch nicht so wie beim Marktführer

 

[Bärenmarke]

das stimmt: auch war ich im Oktober auf einer Konferenz wo Kollegen ihre Projekte auf Ponte Veccio vorgestellt hsben die teils schneller/effizienter liefen als auf Nvidia Lösungen. Aber overall ist Nvidia hier absolut Marktführer, mit allen Vor- und Nachteilen.

Aktuell ist Nvidia aufjedenfall der Platzhirsch, aber ich denke wenn AMD und intel gut liefern, können sie da schnell einige Marktanteile abknappern.

Wenn man z.B. MI300a und Grace Hopper nimmt, ist AMD Nvidia einen kompletten Architekturschritt voraus wodurch sich ein enormer Effizienzgewinn ergibt. Es ist mir an der Stelle auch etwas unbegreiflich, wieso intel ihre APU dafür gestrichen hat.

So wurde etwa Zusammenarbeit mit (AMD und Intel)und Support, Software etc im Vergleich zu Nvidia als "in einem Frühstadium" beschrieben.
Es gibt dort schlichtweg die Infrastrukuren und Leute noch nicht so wie beim Marktführer

An dieser Stelle müssten doch eigentlich auch die Erfahrungen bezüglich Supercomputer seitens AMD und intel hilfreich sein? Nvidia kam ja die letzten Jahre nicht zum Zug, da sie kein kohoräntes Speichersystem anbieten konnten bzw. eher wollten, sie hätten ja nur das Feature von AMD, intel oder IBM implementieren müssen. Und vor allem da die großen Anbieter ja teilweise auch ihre eigenen HW Lösungen entwickeln, müsste das ja auch AMD und intel mehr in die Karten spielen. (hinsichtlich der SW)