Ich zitiere mal aus dem verlinkten Artikel (Downsampling mit AMD):
Das nutzbare Limit bei den meisten Hardware-Kombinationen liegt derzeit bei 2.720 x 1.530 (16:9) respektive 2.720 x 1.700 Pixeln (16:10). Höhere Auflösungen, etwa 2.880 x 1.620, verursachen meistens Bildfehler. Beachten Sie, dass 2.720 x 1.530 wegen der krummen Pixelzahl schlechter aussehen kann als 2.560 x 1.440. Die letztgenannte Auflösung funktionierte in unseren Tests immer - auf einem 120-Hz-LCD sogar mit bis zu 85 Hertz - und stellt daher unsere Empfehlung dar. Eine Handvoll Nutzer mit HD-5000-GPUs berichtet, dass selbst 3.840 x 2.400 funktioniert - da hilft nur Ausprobieren.
Aber daran könnte der TE wirklich gescheitert sein, die versuchte Auflösung war einfach zu hoch ...