Es ist einfach so kompliziert isch zu entscheiden.
Schlaf drüber, entscheide dann einfach aus dem Bauch, womit Du ein gutes Gefühl hast, freu Dich auf die Karte und genieße sie. Es ist nicht einfach und es gibt keine "Beste" Lösung, zu verschieden die die Optionen.
Es bleiben doch eigentlich jetzt, mit Deinen gemessenen Gehäuse Abmaßen drei Optionen:
1.: 360,-€ GTX 970:
https://geizhals.de/msi-gtx-970-gaming-4g-v316-001r-a1167950.html?hloc=at&hloc=de
wohl die beste GTX 970, aber "nur" 3,5GB, das Netzteil funktioniert damit perfekt (habe ich auch, wobei meines zusammen mit einem übertaktetem i5-4670K und einer GTX 970 auf 1500 MHz hin und wieder aus ging. Einfach eion paar Watt an die 5V-Schiene hängen, z.B. zusätzliche Lüfter, das hilft
2.: 360,-€ R9-390 kurz
https://geizhals.de/msi-r9-390-gaming-8g-v308-041r-a1282069.html?hloc=at&hloc=de
wenn der Kühler bei der GTX 970 der beste ist, kann er auch auf der R9 mit nur leicht höherer Abwärme nicht schlecht sein, 8GB VRAM sind das Argument,
Risiko: zusätzliche Gehäuselüfter 30,-€, Netzteil 100,-€
3.:400,-€ R9-390 + Gehäuse
https://geizhals.de/sapphire-radeon-r9-390-nitro-11244-00-20g-a1280763.html?hloc=at&hloc=de plus
https://geizhals.de/nanoxia-deep-silence-3-schwarz-nxds3b-a1146008.html?hloc=at&hloc=de
Risiko: neues Netzteil 100,-€
Ich persönlich scheue immer den Aufwand mit einem neuen Gehäuse, weil man alles ein- und ausbauen muss. Setz lieber in Dein sehr schönes und kleine Gehäuse alle Lüfter rein, die möglich sind, dann bleibt das kühl und leise und auch die MSI R9-390 wird ruhig werden. Und spar das Geld lieber für ein gutes Netzteil. Deines wird funktionieren, aber in seltenen Fällen kann es doch zu Abstürzen kommen. Da geht nix bei kaputt, aber dann wäre ein neues sinnvoll. Sobald die Dark Power 11 raus sind, werden die Dark Power 10 abverkauft. Und dann hol Dir das beste Netzteil für Dein System und übertakte, was geht:
https://geizhals.de/be-quiet-dark-p...1-p10-550w-bn200-a790408.html?hloc=at&hloc=de
Frage: Wo hast Du aktuell Gehäuselüfter verbaut und wie sind sie geregelt? Ich denke einer vorne und einer hinten. Wenn Du noch einen in die Seite pappst, der auf die Grafikkarte frische kalte Luft bläst, und oben einen, dann wird die Grafikkarte wunderbar leise bleiben. Und solange Du die R9 nicht übertaktest, klappt das wnderbar. Ansonsten brauchst Du nur Verbraucher auf der 5V Schiene, damit die Spannung unter hoher 12V-Last nicht abhaut und zum Abschalten des Netzteils führt.