Interessante Technik. Da bin ich mal gespannt.
Interessant ist diese Technik auf jeden Fall, gleichzeitig zeigt die Technik allerdings auch, dass man gewisse Kompromisse bereit sein muss.
Im Studium hatten wir in einer Vorlesung damals eine Dreick als Grafik, in welche Richtungen man einen Algorithmus hin optimieren kann und was das dann für die anderen Aspekte bedeutet und genau das wird auch hier sichtbar.
Man spart hier VRAM - erst einmal gut - im Gegenzug wiederum steigt die Belastung auf die GPU, da diese mehr arbeiten muss, in dem Fall sind das hier die Tensorkerne.
Bei einer Kompression auf 4% mittels AI, also ziemlich harter Interpolation, dürfte es ein sehr fieses Ghosting und Artefakte geben...
Nicht unbedingt. Es kommt hier darauf an, wie das KI-Modell trainiert wurde und was die Kompression bedeutet. Wichtig ist hier die Zuverlässigkeit, dass aus den Daten am Ende die gleichen Daten raus kommen.
Eigentlich müsste man nur mal SamplerFeedback tatsächlich nutzen.(x)
Nicht nur SamplerFeedback, auch DirectStorage.
Intelligente Ressourcenschonung als dummes Feature darstellen.
Also, wenn man sich die Informationen hier so ansieht - also das was bisher bekannt ist - dann wird eine Ressource durch eine andere Ressource ersetzt. VRAM-Platzbedarf wird durch Tensor-Rechenleistung ersetzt.
Da das hier auch nur eine Demo ist und erst mal nur ein Wert "interessierte", kann man das alles auch nur bedingt wirklich in Relation setzen. Es deutet sich bereits an, dass sehr viel über die Tensor-Kerne läuft und daher DLSS hier zum Beispiel nicht mehr viel bringt.
Es wäre hier interessant, weitere Messwerte zu sehen, zum Beispiel wie viel Energie die GPU hier benötigt mit und ohne dieses Feature und wie die FPS werte entsprechend auch sind.
Also ohne NTC den Energiebedarf sowie die FPS Werte und das ganze auch mit den entsprechenden Werten. Es zeigt sich ja bereits, das NTC auf die Framerate geht.
Ich finde es gut das Nvidia interessiert ist den VRAM bedarf zu senken.
Die Frage ist halt, zu welchem Preis. Wenn durch NTC die FPS sinken, gleichzeitig aber auch der Energiebedarf der GPU wächst, weil bestimmte Rechenwerke quasi unter Dauerbelastung stehen, dann hat man nicht so viel gewonnen.
Mit den nun auch aufkommenden Neural-Shaders und Co, wird es interessant werden, was da alles über die gleichen Kerne will und wie sich das ganze am Ende auswirkt.
Ein riesiges Fass als Speicher mit nur einen kleinen Loch zum befüllen und entnehmen ist nun mal nicht effektiver als ein kleines Fässchen mit dem selben kleinen Loch.
Unpassender, weil auch zu kurz gedachter Vergleich an dieser Stelle.
Mit mehr Speicher muss auch die Anbindung wachsen und dem sind nun mal Grenzen gesetzt.
Nein, genau das ist eben nicht der Fall an dieser Stelle. Die größe des VRAMs hat keinen Einfluss auf die benötigte Bandbreite.
Die benötige Größe des VRAMs wird durch die Aufgabengröße bestimmt, entsprechend kann man auch eine RTX 4090 selbst mit 24 GB oder nun eine RTX 5090 mit 32 GB "klein" bekommen. Passende HPC-Berechnungen oder KI-Training, dass nicht mehr in den VRAM passt, lässt die theoretische Leistung der RTX 4090/RTX 5090 verpuffen. Einer der Gründe, warum AMD gerne auch ihre VRAM-Monster HPC-GPUs gezeigt hat, die "deutlich" schneller waren als die Grace Hoper oder davor Ampere HPC-GPUs, weil denen der VRAM ausging.
Die Bandbreite muss für die GPU passend gewählt werden. Ist der VRAM zu langam, bekommt die GPU nicht genug Daten und Rechenleistung bleibt ungestzt. Zu schneller VRAM wiederum bringt nichts, weil die GPU damit nichts anfangen kann.
Die Größe des VRAMs wiederum wird alleine durch die Aufgabe definiert und ob diese in den VRAM rein passt. Sobald der VRAM voll ist, müssen die Daten über den PCIe-Slot kommen und dass ist in der Regel viel zu langsam dafür.
Was nützt es einem wenn der Ram entlastet wird aber die Tensor-Kerne und Co. nur bei dieser Aufgabe ins Limit getrieben werden.
Das ist durchaus einen interessante Frage, weil hier ja auch die Neural-Shaders, DLSS und Co über die Tensor-Kerne laufen. Am Ende konkurrieren hier die "KI-Features" um die Rechenleistung und man hat nicht so viel gewonnen, wie man denkt.
Man kann von Nvidia halten, was man möchte, aber in Innovationen sind die einfach nicht zu schlagen.
Japp, da hast du recht. Die Frage ist am Ende nur, ob das auch am Ende so kommt, wie sich manche das vorstellen.
Genau. Am besten packen wir auf jede Karte 32GB und mehr Videospeicher, nur damit keine modernen Techniken entwickelt werden.
Die Frage bleibt halt die gleiche: Was bringt NTC am Ende wirklich und könnte es nicht vielleicht sogar Kontraproduktiv sein.
Bereits in der Demo deutet sich an, dass hier die Tensor-Kerne stark eingespannt werden und daher DLSS zum Beispiel überhaupt keine Leistungssteigerung bringt, weil keine Ressourcne mehr dafür übrig sind.
Man tauscht hier also VRAM-Bedarf gegen Rechenleistung ein. Nicht alles, weil es "modern" ist, ist am Ende auch wirklich besser. Hier wird man sich am Ende die Auswirkung von NTC auf die gesamte Leistung ansehen müssen und wenn hier Stumpf VRAM-Platzbedarf gegen Rechenleistung eingetauscht wurde, kann das ganze sogar nach hinten losgehen.
Ich find's ja cool, wenn's Speicher sparende Systeme gibt
Ich kann zwar verstehen, warum man es cool findet, dass man weniger VRAM/RAM benötigt, gleichzeitig verstehe ich es allerdings auch nicht.
Gerade mit Speicher kann man viele Algorithmen und Co so wunderbar optimieren, dass die Algorithmen oft deutlich schneller werden und gleichzeitig auch weniger weniger Energie benötigen, weil man Daten einfach zwischen speichert und sich so auch komplexe Operationen teilweise sparern kann.
Klar, auch RAM/VRAM ist eine begrenzte Ressource, doch ist es wirklich sinnvoll, weniger RAM/VRAM zu nutzen, wenn man gleichzeitig deutlich mehr Rechenleistung benötigt dafür?
Das Problem wird damit ja nicht behoben, sondern nur verlagert und ob das am Ende dann effizienter ist? Alleine ein Ergebnis der Demo hier lässt mich daran zweifeln, weil hier die Tensor-Kerne so am arbeiten sind, dass quasi keine Ressourcen mehr für DLSS frei ist.
Was hat man an der Stelle dann gewonnen? Ich will das nicht schlecht schreiben, es klingt interessant. Aber nur weil etwas interessant ist und dazu modern, muss es am Ende nicht unbedingt gut sein.
Na, egal ich lass mich mal überraschen.
Bildungsresistenz oder was ist das hier?
) zu verbauen.
