News VRAM-Nutzung um bis zu 96 Prozent gesenkt: Nvidia beeindruckt mit Techdemo

Dann wird das ganze ja nur verschoben, im Framebuffer muss es spätestens dann von der Grafikkarte entpackt werden um dargestellt zu werden. Das Frame an sich kann ja nicht in komprimierter Form auf dem Bildschirm angezeigt werden.

Nicht wenn das komprimierte Format direkt verarbeitet werden kann und genutzt werden kann, um Farbwerte für einen Pixel zu bestimmen. Das Ergebnis wird dann einfach nur auf den fertigen Frame appliziert. (bzw. auf einen der Bearbeitungsschritte in der Kette).

Wenn man die Neural Textures erst dekomprimieren müsste, bevor sie verarbeitet werden, würde man keinen VRAM sparen, das ist natürlich richtig. Und das ist auch genau so der Fall bei NTC on load.
Bei NTC on sample entfällt dieser schritt.
 
(...)

Also rein Mathematisch hätten sie dann bis zu 400GB VRAM verbauen müssen um diese diese Technologie obsolet zu machen....

Hast du zufällig 100.000€ für ne solche GPU rumliegen?
Bei zur Zeit 3,4$ pro GiB GDDR6 wären das gerade mal 1360$. Ich betone: Dollar!
Von wegen Mathematik und so, du hast dich im best Case mal eben um den Faktor 100 vertan.

Dass heisst auch, dass 16GiB 54$ und 32GiB gerade mal nen schlappen hunni kosten.
Na, wer hätte gern den fuffie mehr gezahlt um die 3080 mit 16GiB zu bekommen?
 
Zuletzt bearbeitet:
Nicht wenn das komprimierte Format direkt verarbeitet werden kann und genutzt werden kann, um Farbwerte für einen Pixel zu bestimmen. Das Ergebnis wird dann einfach nur auf den fertigen Frame appliziert. (bzw. auf einen der Bearbeitungsschritte in der Kette).

Wenn man die Neural Textures erst dekomprimieren müsste, bevor sie verarbeitet werden, würde man keinen VRAM sparen, das ist natürlich richtig. Und das ist auch genau so der Fall bei NTC on load.
Bei NTC on sample entfällt dieser schritt.
Die Bearbeitung von einem Frame ist dann aber so oder so vorhanden. Selbst wenn das Ergebnis dann (rein) appliziert wird muss ja diese Berechnung dann für jeden Frame statt finden. Also haste nicht den VRAM unter Last sondern ein anderes System auf der Grafikkarte, sei es Core, Cuda oder Whatever. Man kann die Berechnung die für die native Anzeige des Bildes ist zwar verlagern aber nicht den Aufwand eliminieren.

Ob das dann am Ende der Bessere Weg ist wage ich stark zu bezweifeln.
 
Ich bin von den Ergebnissen überhaupt nicht angetan. Ja, der VRAM-Bedarf sinkt ein gutes Stück. Allerdings sinken damit auch gleichzeitig die Bilder pro Sekunde. Das ist in meinen Augen nicht zu unterschätzen. Zudem kann ich mir sehr gut vorstellen, dass es nicht selten zu Problemen in Anwendungen führen könnte.
 
Ich halte es für traurig vom hersteller.... das sowas überhaupt passieren kann !!! hallo wir reden über elektrik........ mein pc läuft 24/7 und wenn der zu brennen anfängt weil ich nicht daheim bin wtf.

Ich hoffe einfach das Nvidia vom gpu geschäft aussteigt.... 2 Generationen Gehen GPUS kaputt und nun kann bei falschem Kabel (ich hoffe ja wenisgtens das die klar markiert sind) die 3 generation kaputt gehen.
Sollen sie sich auf ihr KI geschäft konzentrieren wenn sie es nicht schaffen.
Reinvestion vom Kunden bleibt auch aus..... Produktionslinie wird einfach seid 20 Jahren nicht optimiert sonder nur geld in die taschen. Sorry aber ich kann den hype nicht nachvollziehen.....

BTW nvidia fängt ja schon an Tech von amd zu klauen ^^ bald gibts treiberbasiert FG bis zur RTX 2000 das kam von amd. MFG gibts als softwarelösung jetzt bald seid 1 Jahr und das ist das Verkaufsfeature von der 5090 XDDD
5090 ist in sachen FPS pro Watt und anschaffungs kosten in beiden bereichen schlechter als eine 4070......
du hast ungefähr die doppelte leistung und kaufst für den 4 fachen preis ein und sie verbaucht auch das 4 fache an strom..... 600 watt im PC, also sorry aber das ist nicht mehr normal.
Noch bischen mehr und das muss der Elektriker beim einbau abnehmen wie den herd XD
Wow fanboygeblubber vom feinsten. Du kannst dir nicht ernsthaft wünschen dass AMD ein Monopol besitzt. Da würde schnellstens AMD nicht mehr so konsumerfreundlich handeln. Auch die Diebstahlbesichtigung ist albern... Beide Firmen schauen sich regelmäßig Features von einander ab, das ist keine Einbahnstraße.... Dlss und FG kamen ursprünglich von Nvidia und AMD hätte dann nachgezogen jedoch ohne die Hardwarebindung .... Was aber auch dafür sorgt dass bei manchen GPUs wie bis kürzlich bei meiner Vega 64 die Grafikkarte einfach abschmiert sobald man FG aktiviert....

Zudem "zu traurig, dass das möglich ist, wir sprechen hier von elektrik" ja stell dir vor Physik funktioniert so... Letztens hat sich jemand ein billiges vermutlich defektes Ethernet cable bestellt und selbst das ist im Durchgeschmohrt ... Dass bei 600 Watt Leistung die Anforderungen an ein solches Kabel höher sind versteht sich da von selbst....

Mich stört es definitiv auch, dass hier alles bissl sehr auf Kante genäht ist, das erhöht halt die Fehleranfälligkeit unnötig aber nichts desto trotz. Bei minderwertigen Kabeln ist es im Grunde bei jeder Wattleistung möglich sogar lichterloh in Flammen aufzugehen....

Elektrik ist auch die größte Brandursache so viel zum Thema es ist "nur" Elektrik
 
Die Bearbeitung von einem Frame ist dann aber so oder so vorhanden. Selbst wenn das Ergebnis dann (rein) appliziert wird muss ja diese Berechnung dann für jeden Frame statt finden. Also haste nicht den VRAM unter Last sondern ein anderes System auf der Grafikkarte, sei es Core, Cuda oder Whatever. Man kann die Berechnung die für die native Anzeige des Bildes ist zwar verlagern aber nicht den Aufwand eliminieren.

Ob das dann am Ende der Bessere Weg ist wage ich stark zu bezweifeln.

Ja richtig, der Aufwand wird auf die Tensor cores verlagert, weil ein kleines Neurals Netz die Daten verarbeitet.

Im Endeffekt wird der algo dafür deutlich schneller und schlanker sein, als z.B. DLSS. Aber sicherlich langsamer als der klassische Ansatz über die Textureinheiten.

Der Vorteil ist wohl einfach, dass man zum einen massiv Speicher und Bandbreite spart, aber zum anderen die Performance der Tensor Cores über Int8 und FP8 jetzt und in Zukunft zum einen ausnutzen und zum anderen in zukunft sehr viel stärker steigern kann. Der Skalierungseffekt ist Hardwareseitig wahrscheinlich mittel bis langfristig deutlich besser, wenn man aus den GPUs keine Grafikbeschleuniger macht, sondern AI beschleuniger und die Grafikberechnung in Form von Neuralen netzen einfach in Software abstrahiert.

Rein rechnerisch sicherlich alles aufwändiger, aber wenn die Hardwareperformance und die Chipherstellung damit viel besser skaliert und mit neuralen Netzen am Ende auch Dinge möglich werden, die bisher in echtzeitgrafik nicht möglich gewesen sind, dann kann das schon ein sinnvoller Ansatz sein.

Nvidia strebt hier ganz klar einen paradigmenwechsel an. Nicht nur für Texturen, sondern einfach alles was an Grafikberechnungen anfällt.

AMD zeigt ja auch bereits hier und da Bemühungen in die Richtung, auch wenn man konkret bzw. hardwareseitig noch nichts wirklich vorzuweisen hat, die Richtung wird aber langsam klar.

Generell ist der große Vorteil von Neuralen netzen eben, dass sie durch Training immer besser werden können. Sieht man ja jetzt wieder mit DLSS4.

Wenn in ferner Zukunft mal sämtliche Grafikberechnungen auf NN beruhen, dann wächst auch das Potenzial, mit bestehender Hardware immer bessere Grafik zu erzielen, weil viel mehr vom Training und den NN abhängt und weniger von der Rohleistung, welche bisher bei klassischer Grafikberechnung recht strikt limitiert hat, was möglich ist.
 
Zuletzt bearbeitet:
Wow fanboygeblubber vom feinsten. Du kannst dir nicht ernsthaft wünschen dass AMD ein Monopol besitzt. Da würde schnellstens AMD nicht mehr so konsumerfreundlich handeln. Auch die Diebstahlbesichtigung ist albern... Beide Firmen schauen sich regelmäßig Features von einander ab, das ist keine Einbahnstraße.... Dlss und FG kamen ursprünglich von Nvidia und AMD hätte dann nachgezogen jedoch ohne die Hardwarebindung .... Was aber auch dafür sorgt dass bei manchen GPUs wie bis kürzlich bei meiner Vega 64 die Grafikkarte einfach abschmiert sobald man FG aktiviert....

Zudem "zu traurig, dass das möglich ist, wir sprechen hier von elektrik" ja stell dir vor Physik funktioniert so... Letztens hat sich jemand ein billiges vermutlich defektes Ethernet cable bestellt und selbst das ist im Durchgeschmohrt ... Dass bei 600 Watt Leistung die Anforderungen an ein solches Kabel höher sind versteht sich da von selbst....

Mich stört es definitiv auch, dass hier alles bissl sehr auf Kante genäht ist, das erhöht halt die Fehleranfälligkeit unnötig aber nichts desto trotz. Bei minderwertigen Kabeln ist es im Grunde bei jeder Wattleistung möglich sogar lichterloh in Flammen aufzugehen....

Elektrik ist auch die größte Brandursache so viel zum Thema es ist "nur" Elektrik
Ich bin absolut kein fanboy. Mein letzt gpu war eine nvidia und jetzt amd und ich hatte 2 Karten 4000 Serie zum testen daheim. Mein geliebtes ATI gibts leider nicht mehr.

Also wenn ich mir die cpu Preise anschaue, sehe ich keine Überheblichkeit seitens amd, wie es nvidia macht. Im Prinzip wäre mir ein Monopol egal, wenn das Unternehmen fair bleibt(verallgemeinert). Natürlich hab ich aber nie von einem Monopol gesprochen. Man könnte halt eine 5090 für 1000 Dollar mit gewinn verkaufen.

Du kannst dlss und fsr eh nicht vergleichen, das sind grundverschiedene Techniken.
Des weiteren kommt dlss von den Emulatoren, dort gab es upscale schon vorher. Auch multi frame generation, gibt es schon als Softwarelösung und nvidia verkauft es als main Feature xd. "Framegenration" aber allgemein gibts schon "immer" bei Filmen. Die Entwicklung für gpus kam lediglich zuerst von nvidia. Dennoch ist wie gesagte fsr und dlss komplett verschieden(kannst Selbst gerne recherchieren). Dennoch erwarte ich halt einfach von nvidia mehr, erstens produzieren sie auch nur gpus und haben volle Ressourcen dafür und zweitens verdienen sie genug damit sie auch wirklich innovative sein können(sind sie auch im gewissem Rahmen). Seid 3 Generationen können rtx Karten kaputt gehen..... da erwarte ich mehr bei einer firma die 3 Billionen wert ist und 80% Marktanteil besitzt. Ich frage mich an der Stelle wer hier fanboygeblubber hat, aber ich will nichts unterstellen und du kannst auch natürlich kaufen was du willst.


Kannst ja mal googlen wie viel HFR Filme es gibt, die kannst du in einer hand abzählen. Selbst heute sind 24 fps Standard.



Zum Thema Elektronik, ich sagte niemals "nur" und das mit den Brandursachen ist mir bewusst!!!!! GENAU DESWEGEN sagte ich es. Wir reden hier über plug&play und haben einen identischen Stecker für 450/600watt, aber es gibt Kabel für 450 watt und 600watt. Sorry aber hat sich das der azubi überlegt? Ich frag mich wie die das zugelassen bekommen. Du vergleichst ein Ethernet Kabel mit 600 watt strom, na gute Nacht.
 
Nvidia will Vram effizienter Nutzen .:daumen:

Und was macht Amd ?!?:schief:

Amd verschwendet Strom , und Resourcen , mit einfach mehr und mehr Vram den die Amd Karten teiweise gar nicht mehr Nutzen können weil die Amd Karte für flüssige 60+ FPS zulangsam ist oder der Amd Treiber es nicht gebacken bekommt . :nene:

Und das natürlich auch von einigen nur noch wenigen ( ca. 10 % Marktanteil ) Amd Fan,s honoriert wird .:D

Was auch viel über Sachverstand aussagt .:devil:
 
Zuletzt bearbeitet:
Ja richtig, der Aufwand wird auf die Tensor cores verlagert, weil ein kleines Neurals Netz die Daten verarbeitet.

Im Endeffekt wird der algo dafür deutlich schneller und schlanker sein, als z.B. DLSS. Aber sicherlich langsamer als der klassische Ansatz über die Textureinheiten.

Der Vorteil ist wohl einfach, dass man zum einen massiv Speicher und Bandbreite spart
Böser Fehler mit der Annahme dass es "klein" sei oder "Bandbreite spart". Das neuronale Netz ist trotzdem deutlich größer als der komplette L1-Cache jeder SM. Es ist auch über 1000x größer als die Menge an Daten die beim Textur-Sampling pro Pixel im Worstcase geladen werden müssten.

Es ist einfach nur insgesamt im VRAM um Faktor 20 kleiner. Liefert aber auch nur die Qualität wie eine um den Faktor 4 (also halbe Auflösung) kleinere Textur, zu mindestens ist es nur soweit zuverlässig.

Der einzige Grund warum die Techdemo überhaupt flüssig funktioniert hat, ist das <10 Texturen insgesamt verwendet wurden, und damit genau ein Sweet Spot getroffen wurde wo die Demo mit NTC komplett in den L2-Cache der GPU passt, und der VRAM gar nicht benötigt wurde.

Jenseits von diesem Sweet Spot explodiert die benötigte Speicherbandbreite mit NTC, weil jeder Wechsel auf eine andere Textur selbst für nur einzelne Pixel immer direkt volle 1.5MB aus dem VRAM braucht anstelle von variablen 32 bis max. 512 Bytes im Fall von maximaler Anisotropischer Filterung aus einer Mipmap.

Macht zum Beispiel bei 4k (ohne Multisampling) und PBR-Texturen mit 8 Kanälen relativ gut vorhersagbar maximal 4GB an Speicherdurchsatz was man im schlimmsten Fall pro Frame an Texturen hat aus dem RAM laden müssen. Im Mittel wohl eher nur ca. <100MB, unabhängig von der Anzahl der Texturen.

Der Worstcase mit NTC für den gleichen synthetischen Worstcase liegt bei ~12TB an Speicherdurchsatz in einem Frame. Und selbst im besten Fall mit komplett sortieren Drawcalls 1.5MB pro Textur, bei immer noch mindestens 350GB Traffic vom L1/L2-Cache und nicht weniger als ein absolutes Minimum von 32GB Traffic vom L2-Cache als harte untere Grenze. Das bringt dich in jedem modernen Spiel weit jenseits des Referenzwert.

Mit Multisampling natürlich entsprechend multiplizieren.

Es spart wirklich nur dann etwas, wenn du sehr wenige Texturen mit einer sehr hohen Renderauflösung kombinierst.
 
Zuletzt bearbeitet:
Ich bin absolut kein fanboy. Mein letzt gpu war eine nvidia und jetzt amd und ich hatte 2 Karten 4000 Serie zum testen daheim. Mein geliebtes ATI gibts leider nicht mehr.

Also wenn ich mir die cpu Preise anschaue, sehe ich keine Überheblichkeit seitens amd, wie es nvidia macht. Im Prinzip wäre mir ein Monopol egal, wenn das Unternehmen fair bleibt(verallgemeinert). Natürlich hab ich aber nie von einem Monopol gesprochen. Man könnte halt eine 5090 für 1000 Dollar mit gewinn verkaufen.

Du kannst dlss und fsr eh nicht vergleichen, das sind grundverschiedene Techniken.
Des weiteren kommt dlss von den Emulatoren, dort gab es upscale schon vorher. Auch multi frame generation, gibt es schon als Softwarelösung und nvidia verkauft es als main Feature xd. "Framegenration" aber allgemein gibts schon "immer" bei Filmen. Die Entwicklung für gpus kam lediglich zuerst von nvidia. Dennoch ist wie gesagte fsr und dlss komplett verschieden(kannst Selbst gerne recherchieren). Dennoch erwarte ich halt einfach von nvidia mehr, erstens produzieren sie auch nur gpus und haben volle Ressourcen dafür und zweitens verdienen sie genug damit sie auch wirklich innovative sein können(sind sie auch im gewissem Rahmen). Seid 3 Generationen können rtx Karten kaputt gehen..... da erwarte ich mehr bei einer firma die 3 Billionen wert ist und 80% Marktanteil besitzt. Ich frage mich an der Stelle wer hier fanboygeblubber hat, aber ich will nichts unterstellen und du kannst auch natürlich kaufen was du willst.


Kannst ja mal googlen wie viel HFR Filme es gibt, die kannst du in einer hand abzählen. Selbst heute sind 24 fps Standard.



Zum Thema Elektronik, ich sagte niemals "nur" und das mit den Brandursachen ist mir bewusst!!!!! GENAU DESWEGEN sagte ich es. Wir reden hier über plug&play und haben einen identischen Stecker für 450/600watt, aber es gibt Kabel für 450 watt und 600watt. Sorry aber hat sich das der azubi überlegt? Ich frag mich wie die das zugelassen bekommen. Du vergleichst ein Ethernet Kabel mit 600 watt strom, na gute Nacht.
Der mit dem Vergleich mit dem Ethernetkabel müsste nur herhalten, weil du meintest "dass sowas möglich ist wir sprechen hier von elektrik" als ob die Möglichkeit dass Kabel durchbrennen eine abwegige sei. So hat sich das zumindest bei mir gelesen. Dass Ethernet Kabel welches mit extrem wenig Strom betrieben wird durchbrennen können sollte bestätigen, dass so etwas bei 600Watt erst Recht passieren kann....

Inzwischen hab ich ja Roman der 8auers Video hierzu gesehen und bin um einiges schlauer geworden. Die Fahrlässigkeit, nicht auf die Kabel sondern Regulierung des Verbrauchs von Strom für die GPU ist ein Armutszeugnis wie ich mir das nicht hätte vorstellen können.... Pfusch ist da noch zu beschönigend.....

Also Nvidia wirfst du vor Technologien zu klauen aber AMD nicht? Wie gesagt dieses Statement von dir, im Grunde bestätigst du es ja selbst nochmal, dass das alte Technologien sind, war einfach unnötig und der Grund neben dem Wunsch dass ein Konkurrent aussteigen soll, warum ich das mit dem Fanboygeblubber gesagt habe. Es mag nicht zutreffen, dass du einer bist, aber deine Nachrichten klingen genau so.

AMD ist kein Engel und kein Samariter... AMD war in beiden Produktkategorien der Bodensatz und hat sich hart hochgekämpft durch ausgezeichnete Produkte und oder faire Preisleistung....

Sobald Nvidia aussteigt würde AMD ganz andere Seiten aufzeigen. Wir sprechen immernoch von einer AG wo Gewinnmaximum die höchste aller Maximen ist. Momentan kann sich AMD nur schlichtweg nicht leisten Kundenunfreundlich zu sein...
 
Zurück