Ich faß jetzt mal meine Erkenntnisse zusammen:
1.) DotNet, VCRedist installieren (Rockstar Social Club, DirectX11 werden wärend der installation automatisch installiert, RSGSC auch in einer neueren Version als auf DVD)
2.) Virenscanner deinstallieren (zumindest bei Avira nötig)
3.) Installieren... (Geduld

)
4.) Der MaxPayne3.exe im Spieleverzeichnis Kompatiblitätsoptionen hinzufügen (Win7, Desktopdarstellung deaktivieren, Administratorrechte einräumen)
5.) Spiel starten, und im richtigen Moment den Task wechseln (grade wenn das Fenster öffent z.B.in den Explorer wechsel->Spiel startet dann im windowed Mode. -windowed reicht
nicht!)
6.) Sobald den Titel sieht, kann man per ALT-Enter maximieren.
7.) Anmelden.
6.) Grafikoptionen ändern (und sich über die VRam-Bevormundung ärgern)
8.) Spiel verlassen-> unter Dokumente\Rockstar Games\graphics.xml mit dem Editor öffnen, und die
richtigen Einstellungen machen.

9.) Spiel wie oben beschrieben starten.
10.) Spaß haben. Ist nämlich einfach ein geiles Game (trotz dem Ärger, den ich damit hatte...)
Wenn ich das relativ komplizierte Startprozedere befolge, startet es bei mir jetzt fast jedes Mal.

Fraps & Co. wollen bei dem Spiel anscheinend nicht. (Bandicam, Hypersnap, DxTory... nix geht)