Moin Kehnra,
vorweg, ich habe fast die gleiche Konfiguration wie du - 4770k, EVGA 780 Ti SC, Asus M6F.
Neben CPU und GPU kühle ich noch Mosfet und Chipsatz. Verbaut habe ich einen 360er 3cm Radi und einen 240er 4,5cm Radi.
Temps bei Prime95 27.9 sind bei ca. 58° CPU, Bei Furmark habe ich bisher nicht die 40° überschritten.
Zu deiner Frage:
Ich habe den Eindruck, dass das M6F ein bißchen tricky ist, was das übertakten angeht. Hängt natürlich auch von der CPU ab.
Bei mir läuft die CPU auf 4GHz bei 1.15 Vcore. Unterhalb dieser Spannung bekomme ich nicht mal stabile 3,9GHz - habe ein ziemlich mieses CPU Exemplar erwischt.
Das Übertakten auf 4GHz ist eigentlich recht simpel. Zunächst einmal würde ich den RAM auf "Auto" stellen. Ich hatte den gleich am Anfng auf 2400 mit 10/12/12/31/1T laufen, was beim übertakten schnell zu Instabilität geführt hat. Auto brachte dann erstmal gemütliche 1333 mit 9/9/irgendwas.
Dann die VCore auf 1.150 fixieren, die Eingangsspannungen (Initial und Eventual CPU Input Voltage) auf 1.600 - 1.680. Das sind immer noch moderate Werte und temperaturmäßig absolut im grünen Bereich. Dann noch den Teiler auf 40 (CPU Core Ratio auf "Sync all Cores" und den ersten Core auf "40"). Den Rest so lassen und erstmal testen.
Wenn Prime95 keine Mucken macht und min. 20 Minuten stabil läuft, kannst du versuchen, den VCore zu senken oder den Teiler weiter anheben, ganz nach Gusto.
Wenn du deinen Wunschwert gefunden hast, den RAM wieder ordentlich einstellen. Je nach OC kann es sein, dass du nicht unbedingt auf die vom Hersteller angegebenen Werte kommst. Aber i.d.R. profitieren Tools und Games eher von einer höheren CPU Leistung als von einer höheren RAM Leistung.
Ich bin mit meinen 4 GHz sehr zufrieden, da ich eh nicht unter 1.150 VCore fahren kann, nehme ich die 100MHz gerne mit und der RAM läuf eben auch auf den besagten 2400.
Viel Spaß!