News Speicherkrise: DRAM-Hersteller haben vier Lieblinge auserkoren

[PCGH-Redaktion]

Die Speicherkrise hat die Machtverhältnisse am Markt gehörig verschoben: DRAM-Hersteller sitzen am längeren Hebel und können sich aussuchen, wer priorisiert wird. Samsung, Sk Hynix und Micron haben dabei wohl bereits ihre vier "Lieblinge" gefunden.

Was sagt die PCGH-X-Community zu Speicherkrise: DRAM-Hersteller haben vier Lieblinge auserkoren

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[Spieler22]

Das wird nochmal viele kleinere Firmen aus dem Markt schmeissen. Ich zweifel ja schon fast daran, dass es nach der 5090 nochmal was größeres geben wird für Endkunden. Auf absehbare Zeit ist der Waferspace einfach für alles was mit AI zu tun hat viel wertvoller. Wenn die mit dem 5090 Die genauso ne 10000€ GPU bauen und die auch gefragt werden, zeigt die wirtschaftliche Entscheidung auf kurze Sicht nur in die Richtung das consumer GPUs weiter an Priorität verlieren bei NVIDIA, AMD und Intel. Wenn so ein Nvidia System mit 200Gig LPDDR7 ausgestattet wird, geht auch da eher der Speicher hin als in neuste Handys. Dazu dann noch 4TB DDR5 und fertig ist der Perfekte Sturm.

 

[Christoph1717]

Ich hätte gedacht, HP ist auch dabei.
ASUS hätte ich jetzt nicht direkt erwartet. Mal schauen was kommt.

 

[4thVariety]

Man hätte nie gedacht, dass die Northbridge aus dem PC verschwindet.
Man hätte nie gadcht, dass die 2D Grafikkarte aus dem PC verschwindet.
Man denkt zur Zeit, dass die 3D Karte nie aus dem PC verschwinden kann.
Man denkt zur Zeit, dass die Ram-Riegel nie aus dem PC verschwinden können.

Dennoch hat keiner von uns mehr ein Mainboard mit nforce Chipsatz.
Keiner hat eine Matrox Millenium für das beste 2D Browsererlebnis auf dem X3D.
Dennoch gibt es Strix Halo, das schon eher eine GPU mit eingebauter CPU ist als umgekehrt.
Dennoch gibt es Lunar Lake, das Intel vor einem Jahr als Fehler bezeichnete, aber mit den gestiegenen Kosten für Ram-Riegel, werden die das eventuelle jetzt schon anders sehen.

Ich behaupte die RAM Riegel von heute werden nicht zurückkommen. Intel und AMD werden beide mit RAM Chiplets auf dem SOC den ganzen Markt den Laufpass geben. Bestenfalls werden beide erlauben, Systeme mit CAMM2 Modulen zu erweitern, aber dann nicht wie bisher, dass einfach jeder irgendwas herstellt und solange er innerhalb der Spezifikation ist, wird das schon gehen, sondern knallhart zertifizierte Upgradeprodukte die man auch bei Intel und AMD kauft. So wie GPU OEMs den Speicher bei Nvidia kaufen müssen.

Global werden im Jahr über 250 Millionen PCs verkauft, die wenigsten davon werden jemals ein Upgrade sehen. Die Hintertür kann man ja offen halten, aber die Tür für RAM Riegel Hersteller muss man dabei wirklich nicht offen halten. Die jetzige Struktur aus CPU Herstellern und RAM Herstellern ist für die Absätze der CPU Hersteller ein Risiko, aber auch für die Laptop/Office OEMs ein Risiko. Daher gibt es ein Interesse bei Intel und AMD diesem stinkenden Fisch den Kopf abszuschlagen. Das wird dauern, ohne Frage, aber wenn Euer jetziges System das letzte mit RAM Riegeln ist, darf es keinen Wundern. Eure nächste CPU wird einfach schon sie viel RAM wie ihr haben wollt mitbringen und den einen Upgrade Slot werdet ihr in 95% der Fälle auch nicht nutzen.

 

[Pokerclock]

Asus steht hier als Synonym für Pegatron. Kennt nur kaum einer, also macht man aus dem Bumms einfach Asus. Das kennen ein paar Influencer-geschädigte mehr und klicken dann auch auf die Überschrift.

 

[The_Invisible84]

Wenn die mit dem 5090 Die genauso ne 10000€ GPU bauen und die auch gefragt werden

Das macht Nvidia aber schon seit zig Generationen so, trotzdem hat's auch immer eine dicke gaming GPU gegeben, Abfall wird's immer geben.

 

[Spieler22]

Der Unterschied ist, dass jetzt die Nachfrage nahe unendlich ist.

Das macht Nvidia aber schon seit zig Generationen so, trotzdem hat's auch immer eine dicke gaming GPU gegeben, Abfall wird's immer geben.

Und Abfall wird dann auch mit 84GB Ram versehen und für 6500 statt 10000 verkloppt.

Oracle, Microsoft, OpenAI, Palantir, Nvidia drehen Milliarden im Kreis und ziehen so Risikokapitalgeber ohne Ende an und haben ein nahezu unbegrenztes Budget. Den Rest erledigt die US Regierung, die scheinbar denkt, dass AI ein Arms Race ist, ähnlich der Atombombe.

 

[Blackfirehawk]

Grad erst gesehen das die 64gb ddr5 die ich im Frühjahr für unter 200€ gekauft habe nun fast 1200€ kosten..

 

[beastyboy79]

Wallah, Krise!

 

[1xok]

Das Paradoxe ist ja, dass man recht brauchbare LLMs inzwischen wahrscheinlich auch zuhause laufen lassen könnte, wenn die Preise entsprechend des technologischen Fortschritts weiterhin sinken würden. Auf einer aktuellen GPU geht wahrscheinlich schon ziemlich viel, wenn man sie auf 32 oder gar 48GB VRAM aufrüstet. Aber das ist ja inzwischen unbezahlbar.

Wie sehen andere das? Was habt ihr für Erfahrungen beim Betrieb von lokalen LLMs im Vergleich zu ChatGPT und anderen Anbietern gemacht?

Ich kann es mangels Hardware im Moment leider nicht sinnvoll ausprobieren.

 

[Spieler22]

bis 30Gig LLMs sind aus eigener Erfahrung nicht sonderlich gut nutzbar wegen der geringen Attention.

 

[JanJake]

Fürs normale zocken reichen 32Gib dicke aus, wer eben mehr macht, hat leider ein Problem. Ansonsten, versuchen mit der Plattform weiter zu machen und eben das Wechseln zu verschieben.

 

[StutterStruggle]

Wie sehen andere das? Was habt ihr für Erfahrungen beim Betrieb von lokalen LLMs im Vergleich zu ChatGPT und anderen Anbietern gemacht?

Ich kann mich Spieler22 nur anschließen. Leider unbrauchbar. Die Kontextlänge ist viel zu gering und die Attention wird u.A. dadurch ziemlich schwach.
Das heißt, das Model vergisst, worüber man vor 5 Fragen noch gesprochen hat und nutzt selbst die Informationen die in den letzten paar Fragen und Antworten steckten nur sehr schlecht. Das alles während der gesamte Speicher deines Rechners schon am bersten ist. Will man diese Aspekte verbessern, bräuchte man noch viel mehr Speicher.
Ein Rechner mit 32 GB RAM und 16 GB VRAM ist da z.B. viel zu wenig. Und ich bezweifle, dass es mit ner 32 GB GPU schon viel besser ist.

Man kann ja bei ChatGPT und Gemini schon darüber diskutieren, wie gut und nützlich die Modelle sind, aber bei lokalen LLMs bist du mal eben um ganze Größenordnungen schlechter. Die sind praktisch völlig unbrauchbar.
Ja, die können mit dir quatschen und es hört sich erstmal gut an. Grundsätzlich funktioniert das schon. Aber das eigentliche "verständnis" ist das Problem.
ChatGPT und co. hingegen sind gerade gut genug mit viel Luft nach oben, obwohl diese unmengen an Ressourcen zur Verfügung haben. Ich möchte gar nicht wissen, wie viel Grafikspeicher und Strom bei ChatGPT für größere Anfragen auf den Servern genutzt wird. Das wirkt besonders beeindruckend - oder absurd, je nach Sichtweise - wenn man weiß, wie schlecht die Modelle mit den Ressourcen laufen, die man üblicherweise Zuhause zur Verfügung hat.

 

[Rocketeer67]

DRAM Hersteller haben wohl kaum "Lieblinge". Sie haben Verträge und eine unbändige Gier nach Profit.

 

[1xok]

Schade, ich hatte gehofft mit meiner RX 9700 XT (16GB), die ich in meinem neuen Rechner einsetzen möchte, ChatGPT zumindest teilweise ablösen zu können.

Ich habe das Abo-Modell von ChatGPT für ca. 20 Euro im Monat. Ich nutze darüber inzwischen sehr viel Codex zum Programmieren. Es geht mir vor allem um den Abfluss von Daten. Das sehe ich bei der ganzen Sache als das größte Problem an. Nach meinem Verständnis hängt es wirklich primär am Speicher. Den kaufen die KI-Unternehmen uns gerade weg.

 

[BobDobalina]

Kingdom Ram Delivery

 

[gangville]

Das beängstigende ist, dass AI etwas ist was skalierbar ist. Der Sektor ist auf endloses Wachstum. Das heißt, dass der Bedarf an Bausteine nie gesättigt werden kann.

 

[ssj3rd]

Habe meinen RAM bei Aldi für 70€ geschossen, nun ist er bei 9000€!
Ich muss diese News immer wiederholen und allen erzählen und so.

 

[ArktosFFM]

Die Intro-Sequenz von Steve

Eingebundener Inhalt

youtube.com/watch/?v=NHO9UtvTPSA

An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Alle externen Inhalte laden Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.

 

[coral81]

Die Intro-Sequenz von Steve

Die Scene mit dem 12VHPWR Kabel.

​