Ich hatte mal ein ähnliches Problem und es lag daran, dass die Auslagerungsdatei von Windows zu klein war. Einfach mal nachschauen wie groß die ist oder ob sie deaktiviert ist. Es könnte ohnehin auch an der Festplatte liegen, wenn Daten in den RAM geschrieben werden kann es auch ruckeln. Evtl. kann es auch an einem Virenscanner liegen. Du könntest auch alle unnötigen Geräte abschliessen, Festplatten, Laufwerke, USB Geräte, evtl. kannst du so ausschliessen, das es an anderen Geräten liegt, oder das evtl. das Netzteil Probleme hat. Ausserdem kann es bei alten Mainboards auch Altersermüdung geben, manchmal fallen zb. SATA Anschlüsse aus.
Auch könntest du mal testen ein grafisch anspruchsloses Spiel zu nehmen und beobachten ob die FPS dann immer noch instabil sind.