News Arc Pro B60 Dual: Multi-GPU mit 48 GiB startet für 1.200 US-Dollar

[Pokerclock]

Die Frage ist wofür man 48GB VRAM anstelle von 32GB VRAM bräuchte. Die 5090 ist deutlich schneller,

- 50% mehr VRAM
- Dual-Slot-Bauweise
- Kostet die Hälfte
- Mitunter Pro-Treiber Zertifizierung, was die Geforce nicht hat
- geringere Anforderungen an den Stromverbrauch und das Wärmemanagement.

KI frisst VRAM ohne Ende. 5090 ist dagegen ein wahrer Speicherkrüppel.

 

[Pu244]

Wenn die Spiele kein art Intel SLI/Crossfire supporten, wird quasi nur der halbe Chip verwendet.
Dann könnte man auch gleich den Pro Chip ohne Dual benchen.

Das würde es erst recht interessant machen. Wie sieht es mit Multi GPU im Jahr 2025 aus? Man hat das ganze ja an Direct X oder Vulkan abgegeben, wieviele Spiele unterstützen es da? Parallel kann man auch schon schauen, wie es bei Nvidia und AMD mit den alten Spielen aussieht. Ob es da immer noch etwas bringt oder ist der Treiber dazu nicht in der Lage? Schade, dass Multi GPU genau dann aufgegeben wurde, als es anfing so richtig Sinn zu ergeben.

- 50% mehr VRAM
- Dual-Slot-Bauweise
- Kostet die Hälfte
- Mitunter Pro-Treiber Zertifizierung, was die Geforce nicht hat
- geringere Anforderungen an den Stromverbrauch und das Wärmemanagement.

KI frisst VRAM ohne Ende. 5090 ist dagegen ein wahrer Speicherkrüppel.

Es ist halt eben die Frage, ob man den VRAM so addieren kann oder ob das eine Milchmädchenrechnung ist. In letzterem Fall wäre dann die B60 der Speicherkrüppel.

 

[AUTOEXECBAT]

Wenn die Karte problemlos unter LM Studio laufen würde, dann würde ich sie noch heute bestellen. 48GB VRAM für knapp über 1000 $ ist einfach nur ein Traum.

 

[twack3r]

Wenn die Karte problemlos unter LM Studio laufen würde, dann würde ich sie noch heute bestellen. 48GB VRAM für knapp über 1000 $ ist einfach nur ein Traum.

Solange LMStudio Vulcan unterstützt sollte das kein Problem sein.

Es ist halt eben die Frage, ob man den VRAM so addieren kann oder ob das eine Milchmädchenrechnung ist. In letzterem Fall wäre dann die B60 der Speicherkrüppel.

Das ist eine sehr leicht zu beantwortende Frage: ja, kann man. Klappt prima für Inferenz, Training und Finetuning.

 

[troppa]

Erinnert mich vom Konzept her an die Tesla K10. Zwei Desktop Chips (damals 2xGTX 680) mit doppeltem Speicher (2x4GiB).
Anwendungen gibts dafür bestimmt genügend, ist aber sicher keine RTX 5090, nur den Höllenstecker, den teilen sich beide.

 

[PCGH_Torsten]

Solange LMStudio Vulcan unterstützt sollte das kein Problem sein.

Das ist eine sehr leicht zu beantwortende Frage: ja, kann man. Klappt prima für Inferenz, Training und Finetuning.

Weißt du, wie Cross-Zugriffe von der Performance her laufen und wieso dabei ein Vorteil gegenüber Single-Karten entsteht?

Ich habe bislang nichts davon gehört, dass beide GPUs direkt miteinander kommunizieren würden. Es handelt sich also um zwei 24-GiB-Nodes, die jeweils mit ×8 an die CPU angebunden sind. Natürlich kann man über diese Verbindung auch Daten aus dem Speicherpool des anderen Chips beziehen. Aber wieso sollte das schneller sein, als mit einer Single-Karte und ×16 auf den ebenfalls an der CPU hängenden, deutlich größeren System-RAM zuzugreifen? Die Latenz dürfte via DMA eher geringer sein und der höhere Durchsatz von VRAM im Dual-GPU-Ansatz wird durch die halbierte PCI-E-Anbindung ins Gegenteil verkehrt.

Der einzige Vorteil, den ich sehe, sind doppelt so viele GPUs pro System.

 

[Defenz0r]

Der einzige Vorteil, den ich sehe, sind doppelt so viele GPUs pro System.

So sehe ich das auch. Kannst 2x Windows VM ansprechen mit entsprechender GPU Beschleunigung usw.

 

[Shinna]

Wenn man in der Lage ist seinen Softwarestack entsprechend an die Karte anzupassen bekommt man halt "günstig" entsprechend VRAM und Performance für sein Geld. Für um die 12k kann man sich schon eine nette Workstation bauen. Kleiner TR9000 Pro. 256gig RDimm in Octa Channel und 4x B60 Dual. Das dürfte schon "Bums" haben.

 

[Defenz0r]

Wenn man in der Lage ist seinen Softwarestack entsprechend an die Karte anzupassen bekommt man halt "günstig" entsprechend VRAM und Performance für sein Geld. Für um die 12k kann man sich schon eine nette Workstation bauen. Kleiner TR9000 Pro. 256gig RDimm in Octa Channel und 4x B60 Dual. Das dürfte schon "Bums" haben.

Joa aber wenn man das 24/7 laufen laesst zuhause Privat dann ist schnell viel Geld fuer Strom futsch.
Deswegen halt was 'anderes'.

 

[Shinna]

aber wenn man das 24/7 laufen laesst zuhause Privat

Dann macht man sich bei den Anschaffungskosten kaum einen Kopf darüber ob die Wallpower nun ca. 2kw beträgt. Oder doch nur 1,5kw. Eine RTX Pro 6000 mit 96gig gibt NVidia mit TBP 600w an. Die Kostet dich dabei dann fast das doppelte von 4x B60 Dual. Für 4-5k Euronen kannst Du verdammt viel Strom kaufen. Und bei dem Verbrauch dann wohl auch auf einen "Business Tarif" bei einem Stromanbieter wechseln.

 

[Defenz0r]

Dann macht man sich bei den Anschaffungskosten kaum einen Kopf darüber ob die Wallpower nun ca. 2kw beträgt. Oder doch nur 1,5kw. Eine RTX Pro 6000 mit 96gig gibt NVidia mit TBP 600w an. Die Kostet dich dabei dann fast das doppelte von 4x B60 Dual. Für 4-5k Euronen kannst Du verdammt viel Strom kaufen. Und bei dem Verbrauch dann wohl auch auf einen "Business Tarif" bei einem Stromanbieter wechseln.

In meinem Fall -

Sind das eher ~150w-220w gegen ~450-550w im Gesamtsystem sowie enorme Kosteneinsparungen.
Bei meinem Setup waeren das 2k(+1.2k) beim am5 und 12k beim TR Pro setup.

Geplant ist ja iGPU vom AM5 fuer die ersten 4 Displays via MST und 2nd gpu fuer 4 weitere DP und danach die dual gpu 2x8 fuer 2 vms, und danach ein 4x usb controller pcie card und eventuell noch eine x4.

Die TR Pro Modelle haben den Nachteil das die extrem viel zusammen schlucken wenn du die Lanes ausnutzt!
Oftmals bin ich eher gegen 30% bei den GPUs und es geht mir um Virtualisierung / Video Beschleunigung und eben richtigen PCIe passthrough.

Ich haette mir auch koennen dedicated machines hinstellen koennen - nur koennen die nicht live und instant gebackuped werden usw.

Ich wuerde ein TR System ganz anders aufsetzen.
Beim AM5 mache ich alles so kompakt wie moeglich.

 

[Shinna]

Beim AM5 mache ich alles so kompakt wie moeglich.

Und dir gehen die PCIe Lanes schneller aus als Du gucken kannst. Ich habe von einer Workstation gesprochen. Du redest von einer Desktop Lösung.

Ich wuerde ein TR System ganz anders aufsetzen.

Das setzt man so auf wie man es am Ende braucht. Bei einem Invest im 5-stelligen Bereich gehe ich davon aus, dass man ein Usercase erstellt. Und sich daran bei der Anschaffung orientiert.

 

[Pokerclock]

Desktop-Consumer-Systeme sind da ganz schnell raus. AM5 als auch Sockel 1851/1700 sind komplett limitiert. Der Fokus liegt hier auch eher auf M.2-Steckplätze. Mehr als ein x16-Steckplatz ist nicht vorgesehen.

TR ist die Plattform der Wahl. Und das muss auch gar nicht so teuer sein. Für WRX80 gibt es 12-Kerner für 150 € und Boards liegen irgendwo zwischen 600 € bis 800 €. Dafür gibt es 128 PCIex 4.0 Lanes.

Intel-HEDT... ja ne, lass mal stecken.

 

[Defenz0r]

Und dir gehen die PCIe Lanes schneller aus als Du gucken kannst. Ich habe von einer Workstation gesprochen. Du redest von einer Desktop Lösung.

Das setzt man so auf wie man es am Ende braucht. Bei einem Invest im 5-stelligen Bereich gehe ich davon aus, dass man ein Usercase erstellt. Und sich daran bei der Anschaffung orientiert.

Ich nutze mein Desktop wie eine Workstation und schaue stark auf den Verbrauch.
Nutzer die 5 stellig Geld fuer ne Workstation ausgeben bekommen das oft "mal eben so" vom Arbeitgeber gesteckt und muessen sich nicht um Stromverbrauch kuemmern.
Aber das ist nicht meine Welt. Ich arbeite auch mal Selbststaendig usw.

Desktop-Consumer-Systeme sind da ganz schnell raus. AM5 als auch Sockel 1851/1700 sind komplett limitiert. Der Fokus liegt hier auch eher auf M.2-Steckplätze. Mehr als ein x16-Steckplatz ist nicht vorgesehen.

TR ist die Plattform der Wahl. Und das muss auch gar nicht so teuer sein. Für WRX80 gibt es 12-Kerner für 150 € und Boards liegen irgendwo zwischen 600 € bis 800 €. Dafür gibt es 128 PCIex 4.0 Lanes.

Intel-HEDT... ja ne, lass mal stecken.

Ich hatte mal vor ner Zeit geschaut was ich machen wuerde bei Threadripper und glaube das Motherboard ist nicht kompatibel. Da hatte ich auch geschaut das ich 7 PCIe slots bekomme.
Welches Motherboard muesste hier Beispielhaft herhalten? Bzw. ne andre CPU wenn man Geld sparen wollte? https://geizhals.de/wishlists/4573897
Und wie siehts dann mit dem Stromverbrauch im mittel aus?

 

[Shinna]

Das kommt auf den Einsatzzweck an. Brauche ich "einfach" nur massenhaft Memory Bandwidth und PCIe Lanes würde ich sowas nehmen:

TR9000 Pro | Wunschlisten Geizhals Deutschland

TR9000 Pro | Wunschlisten

geizhals.de

Brauche ich halt wirklich mehr Cores skaliert man die CPU entsprechend.

 

[Defenz0r]

Das kommt auf den Einsatzzweck an. Brauche ich "einfach" nur massenhaft Memory Bandwidth und PCIe Lanes würde ich sowas nehmen:

TR9000 Pro | Wunschlisten Geizhals Deutschland

TR9000 Pro | Wunschlisten

geizhals.de

Brauche ich halt wirklich mehr Cores skaliert man die CPU entsprechend.

Ich fang mal Rueckwaerts an - bei AM5 waere es:
- iGPU treibt 4x 1920x1080 Displays an.
- AMD W7500 (single slot) Radeon Pro treibt 3x 1920x1080 Displays an.
- 1x NVIDIA GPU (mittelklasse)
- 1x USB Controller Karte
- 3 bis 4x 8TB NVMe
- VM stiehlt einen USB Controller vom Motherboard.
- min 128GB RAM

Bei TR waere es:
- 2x AMD Host GPU (1x 1 Single Slot 1x 2 Dual Slot )
- 1x USB Karte mit jeweils 4 Ports (1x 1 Single Slot)
- 2x NVIDIA GPU fuer VM (1x 1 Single Slot 1x 2 Dual Slot)
- 1x USB Karte mit 4 USB Controllern.
- min 128GB RAM
- NVMe via Chipsatz. Anzahl unklar.

Mit einer GPU wie hier im Thread beschrieben wuerde ich auf AM5 einen Slot sparen.
Mir sagen viele Leute aber das AM5 zu beschnitten fuer mein Vorhaben ist.

Es gibt noch eine andere Variante welche den Boot einer virtuellen Disk vorraussetzt via USB:
Ich hatte auch schon ueberlegt dedizierte Systeme zu Nutzen, bin mir allerdings noch nicht sicher.

Das waere naemlich nur dann sinnvoll, wenn ich
1. Von USB Boote
2. Win 11 LTSC nutze mit Virtual Disk Boot
3. Die Virtual Disk jeweils vom Host bearbeiten kann und snapshotten kann wenn der PC aus ist.
4. Demzufolge einen USB-Switch dazwischen schalten wuerde.
5. Das System nur bei Bedarf einzuschalten.

Was denkt Ihr?

 

[Shinna]

Was denkt Ihr?

Ich denke das sprengt den Rahmen für die Kommentare zu einer "GPU News".

 

[Defenz0r]

Ich denke das sprengt den Rahmen für die Kommentare zu einer "GPU News".

OK. Ich probier einfach aus

 

[Pokerclock]

OK. Ich probier einfach aus

Ganz generell als Tipp für viele Anschlüsse im Single-Slotformat: Sparkle A310 Omniview

Man kann auch mehrere davon in einem System betreiben. Der Treiber kommt damit zurecht.

 

[AyC]

Kostet aber auch mehr als das doppelte und zieht deutlich mehr Strom

Naja, lieber für eine Aufgabe 1min 550 Watt verbrauchen anstelle von 2min 400 Watt.. Die 5090 ist effizienter... und zum Preis, soll 1200$ der Endpreis sein? Wäre die Frage wie teuer die dann hier auf dem deutschen Endmarkt wäre. Gehe aber nicht von der Hälfte aus. Aber Tests interessieren mich auch.