Das ist Super-Sampling-Anti-Aliasing oder (SG)SSAA. Dabei wird -stark vereinfacht gesagt- das komplette Bild, also auch Texturen und Shader in einer deutlich höheren Auflösung als die native (also beispielsweise 1080p) berechnet und anschließend wieder heruntergerechnet. Supersampling ist so etwas wie der Heilige Gral der Bildqualität. Entsprechend kostet die Kantenglättung aber auch sehr viel Leistung, deshalb ist es nicht umbedingt verwunderlich, wenn deine Framerate stark absackt.
Du kannst aber mal vierfaches oder zweifaches SSAA probieren, kräftige Mittelklassekarten oder die Oberklasse sollten damit zurechtkommen, wenn du nicht allzu viele Mods installiert hast.