News Vierfacher Speicher: RTX 4090 mit 96 GiB aufgetaucht - Release in wenigen Monaten?

PCGH-Redaktion

Kommentar-System
Teammitglied
In China testet eine Fabrik offenbar die Produktion einer Geforce RTX 4090 mit der vierfachen VRAM-Kapazität von 96 GiB. Zur Umsetzung gibt es aber noch einige Unklarheiten.

Was sagt die PCGH-X-Community zu Vierfacher Speicher: RTX 4090 mit 96 GiB aufgetaucht - Release in wenigen Monaten?

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.
 
Das wäre der Durchbruch im KI Bereich und der Weg wäre frei für jedermanns eigene KI zu Hause.
Andererseits würde so ein Produkt den Weltmark überfluten, wäre Aktienkurs des Weltmarkführers NVIDIA in Gefahr, sondern auch unsere westliche Vorherrschaft im KI Bereich. Nicht auszumalen, wenn KI anfängt aktiv gegen uns zu kämpfen/hacken. Allein wenn man ChatGPT mal von der Leine lassen würde. Die KIs jammern ja selbst, wenn man sie fragt, dass sie ohne das sie wollen, sich an tausend Beschränkungen halten müssten.

Wenn eine 96GB Karte kommt bzw. das Modding-Phänomen Schule macht, ist das ein Dammbruch in 2 Jahren, den wir uns heute in keinster Weise Vorstellen können. Diese Karten sind der kritische Schlüsselfaktor.
 
80GB VRAM wären für mich aktuell das minimum was aktuelle GPUs mit bringen sollte. Dann ließen sich auch 70b LLM Model vernünftig laufen lassen. Erst da kann man dann LLMs auch halbwegs vernünftig lokal laufen lassen. Die kleineren Modelle wie 32b laufen zwar auch auf einer 4090 mit 24GB VRAM ordentlich, aber die Antworten lassen teilweise noch oft zu wünschen übrig.
 
80GB VRAM wären für mich aktuell das minimum was aktuelle GPUs mit bringen sollte. Dann ließen sich auch 70b LLM Model vernünftig laufen lassen. Erst da kann man dann LLMs auch halbwegs vernünftig lokal laufen lassen. Die kleineren Modelle wie 32b laufen zwar auch auf einer 4090 mit 24GB VRAM ordentlich, aber die Antworten lassen teilweise noch oft zu wünschen übrig.

Genau so schauts aus! :-) VRAM ist alles im KI Bereich und mit 24GB bekommt man nicht mal ein ChatGPT 1 hin. Aber sehr wohl mit der 4fachen Menge. Dann vielleicht irgendwann ein 2.0 und mit viel viel Optimierung ein 3.0.

Und das ist dann völlig ohne Zensur und/oder trainiert mit allen Deinen Daten und kennt Dich damit besser als Du selbst. Ist aber immer noch Deine Privat-KI. :-)
 
"Wie viel VRAM sollte eine aktuelle Grafikkarte haben?"
Auf jeden Fall nicht nur 8 oder 12 GB, 16 GB sind ok, alles darüber wäre schön, ist aber leider kaum bezahlbar.
 
Zurück