News Intel Arc Pro B70: Battlematrix mit Quad-GPUs zieht bis zu 720 Watt

[PCGH-Redaktion]

Hardwareluxx hat vier Intel Arc Pro B70 in einer Quad-GPU-Workstation getestet: Bei 180 Watt pro Karte summiert sich die Last auf 720 Watt - doch die KI-Inferenz-Benchmarks fallen ernüchternder, aus als die pure Skalierungsarithmetik vermuten lässt.

Was sagt die PCGH-X-Community zu Intel Arc Pro B70: Battlematrix mit Quad-GPUs zieht bis zu 720 Watt

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[Rollora]

Ja das ist jetzt nicht ganz so überraschend eigentlich.
Dass die Synchronisation von KI Modellen im RAM schwierig ist - und damit nur teilweise ordentlich skaliert - ist auch klar. Vor allem über PCIe, eventuell braucht es hier größeren RAM der seltener synchronisiert wird und schnellere Verbindungen
Dass 4 Karten 720 Watt fressen schreckt wohl niemanden, das schafft Nvidia mit einer allein

 

[AUTOEXECBAT]

Ich denke auch, der größte Pluspunkt ist der schnelle VRAM. Wobei man sich wundert, wie schnell eine gute CPU mit DDR5 RAM bei KI Modellen ist die nur im RAM laufen. Das ist schon ganz brauchbar mittlerweile. Kommt nicht an VRAM heran aber ist eben unfassbar günstiger, da meistens eben ausreichend vorhanden.

 

[Andreas1975]

Ich denke auch, der größte Pluspunkt ist der schnelle VRAM. Wobei man sich wundert, wie schnell eine gute CPU mit DDR5 RAM bei KI Modellen ist die nur im RAM laufen. Das ist schon ganz brauchbar mittlerweile. Kommt nicht an VRAM heran aber ist eben unfassbar günstiger, da meistens eben ausreichend vorhanden.

Also ich merke da ziemlich spürbare Unterschiede zwischen einer LLM auf der CPU vs Intel B50. Von Bilderstellung möchte ich gar nicht reden.

 

[AUTOEXECBAT]

Also ich merke da ziemlich spürbare Unterschiede zwischen einer LLM auf der CPU vs Intel B50. Von Bilderstellung möchte ich gar nicht reden.

Ja, klar. Faktor 5. Aber ich erinnere mich, dass es am Anfang eher Faktor 20 bis 30 war. Zumindest sind das meine früheren Erfahrungen in LM Studio gewesen. Ich meine, natürlich ist es deutlich schneller aber wer nur hin und wieder Texte mit einem lokalen LLM erzeugt kann sich schon überlegen, ob er mit 128GB RAM nicht besser fährt bzw fuhr,denn heute ist RAM ja gefühlt fast so teuer wie VRAM!

Aber für wen das Geld weniger eine Rolle spielt, der wird natürlich immer VRAM bevorzugen.