GPU OC ist wesentlich einfacher als CPU OC. Einfach per Software ocen (z.B. MSI Afterburner). Die Lüftung erstmal auf 100% und dann langsam rantasten und später die Lüftung anpassen.
Meist geht der Speicher deutlich besser als die GPU, muss aber nicht sein.
Das ganze am besten mit Crysis oder Race Driver Grid testen. Wenn's Bildfehler gibt sofort abbrechen und die Taktraten etwas reduzieren. Die Lüftung wie gesagt zur Sicherheit erstmal auf 100% lassen.
Wenn du die idealen Werte hast kannst du sie per Editor ins Bios flashen.