Ich würde dir die 5870 empfehlen.
Die braucht weniger Platz, die AMP. braucht 3 Slots plus einen um Luft zu ziehen und die 5880 nur zwei plus einen zum Luft ziehen und natürlich weniger Stromverbrauch.
Zu deiner Case-Frage:
Ich kann dir das Coolermaster CM 690 II Advanced empfehlen.
Das hat schon drei Lüfter vorinstalliert, die auch nicht laut sind aus eigener Erfahrung, du kannst viele Lüfter noch dazu bauen, den Laufwerksschacht rausnehmen für besseren Air-Flow und es bleiben immer noch zwei Laufwerksschächte übrig.
Du kannst zwei 2x120mm Radiatoren verbauen oder einen extern, da du Löcher hast um die Schläuche nach außen zu führen.