Der Mailserver von Microsoft ist Exchange und der ist wenn überhaupt auf Windows-Server-Versionen dabei. (War früher mal, kann sein das der inzwischen extra zu bezahlen ist.)
Wenn das ganze nicht gerade für einen Betrieb sein soll, dann schau dich lieber mal im Open Source bzw. Freeware Bereich um, evtl. findest du da ja was. Mir fällt da gerade nichts aus dem Stehgreif ein...
Was deine Frage zu den Domains angeht:
Eine Domain, geht nur zu einer IP. Zwei geht nicht. Also zumindest so brachial geht's nicht.
Mach aus 2 Servern, 2 Server + Proxy Server (Der dann die IP bekommt) und weise die entsprechenden Ports, den passenden Servern zu. Ist im Prinzip die große Variante eines NAT-Routers im Heimbereich, der einfache Port Weiterleitungen macht. (Evtl. reicht ja sogar das schon locker aus?)
Andere Variante: Die meisten Hoster bieten kostenlos Sub-Domains an. Bei meinem kann ich 100 Stück. Diese Sub Domains muss man nicht auf internen Domainspeicher verweisen lassen, sondern kann auch extern an z.B. eine feste IP oder anderen Hostnamen weiterleiten. Genaugenommen ist das zwar nicht die gleiche Adresse, aber damit kommen viele sogar noch leichter zurecht als mit "nicht-Standard" Portnummern.
Bsp.: Wenn deine Domain arbeit.de wäre, z.B. mit deiner Homepage auf Port 80.
Dann könntest du auf der gleichen Adresse natürlich einen TS auf 6667 laufen lassen (soll der Standard Port sein.)
Und natürlich auch noch den SPop3 auf 25, 995 für Mails.
Aber ab einem 2. TS bräuchtest du dann noch Port 6668 dazu. Was garantiert darin endet, das alle auf dem Standard-Port Server landen und du ständig Diskussionen um nicht erfolgreiche Verbindungen hast.
Wenn du also schon 2 Server hast, dann weise doch eine die Haupt Domain zu und dem 2. einfach subdomain.arbeit.de. Jetzt benenn das noch intelligent, z.B. mail.arbeit.de und fertig biste. Das kann sich jeder einleuchtend merken.
Derartige Weiterleitungen gehen aber nur pro IP, nicht per Port. Bei mehreren Anwendungen auf einem Server. Hast du wieder verschiedene Portnummern.