OC würde ich bei ner Referenzkarte gar nicht erst anfangen, da du da Gefahr läufst dass die, wirklich schlecht gekühlten, Spannungswandler abqualmen.
Versuch lieber die Karte zu undervolten, um die Temps zu senken.
Warum nicht beides versuchen?

Ich hatte auch mal ne 780 Ref., welche übertaktet
und undervolted lief. Dazu bedarf es aber ein modifiziertes Bios, um die Spannung frei einstellen zu können. Ohne gehts auch, nur nicht so effizient.
Zum übertakten eignet sich der Nvidia Inspector hervorragend. Einfach den "Base Clock Offset" jeweils um 13MHz erhöhen, auf Apply klicken und dann mit einem anspruchsvollen Spiel/Benchmark auf Stabilität prüfen.
Speicher würde ich erstmal unangetastet lassen.
Mit dem MSI Afterburner per OSD im Spiel/Benchmark das Powertarget und die Temperaturen im Auge behalten und falls notwendig entsprechende Targets anpassen.
Spannung vorerst
nicht erhöhen. Es empfiehlt sich erstmal die Grenze der Standardeinstellung zu finden.
Ein paar Richtwerte:
1019/3004MHz
1019/3506MHz
Als Ziel sollten dir erstmal 1100MHz genügen, das sollte selbst mit Ref. Kühler kein Problem sein. Wenn die Karte das ohne Spannungserhöhung packt, kannst du dich an 1150 und schließlich 1200MHz versuchen. Letzeren Takt schaffen viele schon nicht mehr.
Falls Fragen sind --> stehe dir auch per PN zur Verfügung.