Ich kann beide Ansätze allerdings verstehen, zuerst der Wille, einen immer genau gleichen Ablauf, der trotz allem einzigartig und selbständig ist und nicht einfach so von jedem nachgemacht werden kann. Aber, auf der anderen Seite, muss er für jeden, jederzeit nachvollziehbar sein, was einmalige Momente in einem laufenden Open World-Spiel vollständig ausschließt. Und da immer mehr Titel Open World werden, ist eine geeignete Stelle immer schwerer zu finden. Macht es für euch Spiele-Tester nicht gerade einfacher...
Du glaubst gar nicht, wieviel Zeit Raff insbesondere Phil mittlerweile auf dieses Problem verschwenden. Als Mainboard-Tester bin ich in der glücklichen Situation, dass nur wenige und beliebige Benchmarks erwartet werden – also nehme ich mir einen schönen GoG-Titel und eine Szene mit konstanten Bedingungen und kann über Jahre hinweg reproduzierbar testen. Aber verlässliche Zahlen aus populären Online-Titeln für Tuning-Artikel und Grafikkartentests zu ermitteln ist sehr frustrierend und aufwendig.
Das ist wohl Auslegungssache. Ein Wraith Prism hat zwar direkt aufliegende Heatpipes, aber wenn man schon "gleiche" Bedingungen schaffen möchte / sollte, dann sollten eben alle mit dem gleichen getestet werden. Und nicht als "Ausrede" sagen :"INTEL hatte keine Kühler dabei aber AMD schon, also haben wir bei intel einfach unserern eigenen genommen während wir bei AMD den mitgelieferten genommen haben" <- frei übersetzt...
Die Verwendung unterschiedlicher Kühler im TP-Test habe ich selbst kritisiert. AMDs Alternativvorschlag, jeden Prozessor mit dem jeweiligen Boxed-Kühler zu testen, ist aber eben kein Deut besser – zu einigen Prozessoren gibt es gar kein Boxed-Modell, bei anderen hat es quasi keine Reserven. In einem allgemeinen Benchmark-Leitfaden wäre das noch zu tollerieren, schließlich spielt der Kühler oftmals gar keine Rolle und mehrere verschiedene Boxed werfen weniger Fragen auf als "alle 1151, alle 2066 und alle TR4 mit Noctua. Aber nicht den AM4". Aber eine offizielle Pressemitteilung als Reaktion auf Fehler der Konkurrenz sollte es wirklich besser wissen.
Kann man so stehen lassen, wobei man AMD fairerweise zugestehen muss, dass sich Leute die sich ein Ryzen System kaufen vorher informieren, welche Speicher man braucht um die maximale (zugelassene) Frequenz zu erreichen und somit dann anstelle von Dualranked eher Singleranked Speicher kaufen der dementsprechend halt auf 2 Module aufgeteilt ist anstelle von 4 Modulen (32GB Kit als 2x 16GB oder 4x8GB meine ich hier)
Da es bei Intel ja keinen Unterschied macht ob nun 2 oder4 Riegel drin stecken, hätte man ja eigentlich ein Kompromiss finden können indem man einfach die Quadchannel Systeme mit Quadbestückung testet und die anderen alle im Dualchannel.
Das hier eingesetzt Kit hatte 4× 16 GiB, mit zwei Ranks je Speicherkanal wäre diese Bestückung gar nicht möglich. Und der für Ryzen genutzte Takt hätte sogar die Beschränkung auf einen Rank je Kanal erfordert, also maximal 2× 8 GiB. Für die Quad-Channel-Systeme sind aber mindestens vier Ranks insgesamt erforderlich. Die von AMD gestellte Forderung nach DDR4-2933 und nach einheitlicher Speicherbestückung für alle Systeme ist deswegen nur möglich, wenn man Skylake X und Threadripper systematisch benachteiligt. Da war der TP-Ansatz mit einem jenseits seiner Speicher-Spezifikationen betriebenen Ryzen noch die bessere Wahl, auch wenn AMD sich scheinbar bei der Speicherausstattung benachteiligt sieht.
PCGH testet AM4 übrigens mit Spezifikations-konformen DDR4-2666 Dual Rank, der nicht langsamer als DDR4-2933 Single Rank ist, aber genauso in Sockel-1151-Systemen läuft. Aber dann steht bei Ryzen halt nicht "DDR4-2933" und es wird auch gemeckert.
Also entweder habe ich das falsch verstanden oder du. für mich liest sich das so, dass wenn XMP, dann auch DOCP oder bei beiden manuel eingestellt und zwar gleich (im Rahmen der Stabilität halt dementsprechen hoch oder niedrig) AMD hat beim DOCP die gleichen Werte in der Speicherverwaltung stehen wie Intel wenn das XMP geladen wird, das ist nämlich vom Ramhersteller so hinterlegt. Also wenn, dann gleiches Recht für alle und nicht bei einem manuel und beim Anderen per Automatik.
Du nimmst fälschlicherweise an, DOCP wäre eine AMD-Technik die Intels XMP entsprechen würde. Dem ist aber nicht so. Im Rahmen von XMP werden RAM-Module jenseits der JEDEC-Vorgaben spezifisch nach Intel-Vorgaben in Sockel-1151-Systemen auf ihre Stabilität bei diesem Takt in dieser Plattform getestet. Sowohl CPU als auch Mainboard als auch RAM-Hersteller sichern also Funktionalität bei dieser Geschwindigkeit zu. (Ob man es einklagen kann, weiß ich nicht – mir sind keine Probleme bekannt, wo das nötig gewesen wäre.)
DOCP dagegen ist eine Asus-Bezeichnung (!) für den Einsatz von XMP-Profilen auf AM4- und TR4-Mainboards. Bei anderen Herstellern gibt es das unter diversen Bezeichnungen. Ob wirklich vergleichbare Implementationen dahinter stecken, ist aber unklar – schließlich kocht jeder sein eigenes Süppchen. Genausogut könnte ich auf allen Plattformen erweiterte Turbo-Modi aktiviert lassen. Die haben mit den CPU-Herstellern auch nichts zu tun, sind aber halt üblich und in der einen ODER der anderen Form überall verfügbar. Bei DOCP/A-XMP/... kommt aber noch hinzu, dass keine Stabilitätsprüfung dahinter steckt. Es gab sehr viele Fälle, in denen RAM auf AM4-Systemen mit seinen XMP-Spezifikationen Abstürze verursachte, weil es sich nun einmal um Übertaktung handelt.
So zu testen ist weder fair noch reproduzierbar. Respektive wenn ein Hersteller darauf bestehen würde, müsste man für "fair" jeden gescheiterten Durchlauf mit den ermitteln 0 Fps einfließen lassen – das wäre nicht im Interesse von AMD und schon gar nicht im Interesse der Leser. Die einzig sinnvolle Maßnahme ist in meinen Augen die Deaktivierung von XMP; für Mainboard-Tests habe ich mir sogar extra durch dutzende RAM-Kits getestet um eins mit normalem Auto-DDR4-2666-SPD zu finden. Die zweitbeste Lösung ist die manuelle Konfiguration gemäß RAM-Datenblatt, wie von TP praktiziert. AMD fordert aber explizit XMP für alle (und damit Instabilitäten) oder aber das manuelle Ausloten aller Einstellungen. Letzteres würde, wenn man es wirklich sorgfältig macht und mehrere Wochen mit zahlreichen Samplen pro CPU-Modell investiert, tatsächlich spannende Aussagen über die tatsächliche Leistungsfähigkeit des Siliziums liefern. Mit entsprechend handverlesenen RAM-Modulen aber bei DDR4-3333 für AM4 und DDR4-4500 für Sockel 1151.
Das bezieht sich wohl darauf, dass der Ryzen bereits von mehreren Magazinen getestet wurde und wenn man es vergleicht und zu ungereimtheiten führt, dass man eventuelle Fehler nochmals versucht aufzudecken.
Bestes Beispiel, sogar von Euch kommentiert, Computerbase mit ihren fehlerhaften Messungen obwohl man eigentlich alles richtig gemacht hat, also zur Not einfach nochmal alles neu aufsetzen und nochmal testen anstelle von ein und der gleichen Festplatte oder sonstigem.
Hier interpretiere ich den AMD-Text anders. Die hier explizit angesprochenen Verbraucher interessieren kaum für Testmethoden. Auf die Konsistenz von Ergebnissen sollte man viel eher als Tester achten. Umgekehrt ist es aber Aufgabe des Testers die für eine bestimmte Fragestellung angemessenen Testbedingungen zu schaffen und AMD erwähnt ausdrücklich den Einsatz teurer RAM-Kits mit günstigen CPUs als Beispiel. Da auch der gesamte Rest der AMD-Folie auf die Ergebnisse des Ryzen im ersten TP-Release maßgeschneidert wirkt, lese ich daher die Forderung nach einem typischen 2700X-Testsystem als einzige "für Endkunden Sinn machende" Testumgebung. Was in einem Test mit Skylake X und Threadripper aber schlicht cherry picking zugunsten eines, AMD offensichtlich am Herzen liegenden, Kandidaten wäre.
Mal abgeshen davon, dass du mit diesen Aussagen recht hast, hätte ich so eine Statement von AMD bereits 1 Tag nach Veröffentlichung des ersten Tests erwartet und nicht erst nach dem Nachtest.
AMD hätte es dann einfach dabei belassen sollen, so hat es einen sehr komischen Beigeschmack auch wenn ich es verstehen kann, dass sie reagieren wollten / mussten, nur leider viel zu spät.
Das Timining ist besonders unglücklich, aber auch die Veröffentlichung als solche werte ich als einen Beitrag des AMD-Marketings und nicht von seriösen Hardware-Testern. Ginge man 1:1 nach der Anleitung vor, wären die Ergebnisse zwar vergleichbarer als im ersten TP-Test. Aber sie wären über alle Prozessoren hinweg betrachtet nicht fairer als im zweiten, sondern würden systematisch den Ryzen 2700X bevorteilen, denn "fairer" eben noch lange nicht "objektiv". Benchmark-Leitfäden mit derartigem Geschmäckle sind in Review-Kits keine Seltenheit. Aber in einer hitzigen Diskussion über unfaire Testmethoden sollte man entweder schweigen oder es richtig machen, nicht versuchen Vorteile für sich selbst herauszuschlagen.
Wobei ich jetzt irgendwie Lust bekomme, i9-9900K und einen W2950X gemäß AMD-Leitfaden gegeneinander antreten zu lassen.
"Schritt 1: RAM aus passender Preisklasse einbauen und XMP aktivieren. Nehmen wir mal 2x DDR4-4.000"
"Schritt 2: Boxed-Kühler montieren." "Oh, gibt es bei beiden nicht. Dann weiter zu Schritt 3"
...