Habe ein ähnliches Verhalten bei Ark erleben müssen:
Gemütlich am Mats farmen, plötzlich Crash weil VRAM voll. wtf!?
Workaround war dann, HBCC zu aktivieren: VRAM läuft zwar nicht direkt voll, aber pendelt konstant bei 7,3-7,9GB rum - aber dank HBCC gibts nun keinen Absturz mehr.
Ach ja, GPU...