Beide sind in allen Punkten relativ ausgeglichen, weshalb du eigentlich nur nach persönlichen Vorzügen entscheiden solltest. Für die nVidia spricht die niedrigere Lautstärke, für die Radeon der bisschen niedrigere Preis usw.
Wenn du mich fragst, ist es besser die HD5770 zu nehmen. Die kosten deutlich weniger, hat aber nicht deutlich weniger Leistung, ist kühler, stromsparender und moderner.