Einen Dominoserver halte ich hierfür für absolut oversized. Ich würde das ganze unter Linux aufsetzen (wenn KnowHow vorhanden ist) oder unter Windows (und die Kiste per Firewall komplett zumachen von aussen bis auf Port 25).
Ich persönlich würde am Gateway auf jeden Fall auch Virenscanning, ContentFiltering und idealerweise auch SPAM-Filtering machen. Dies wäre auch ein ganz klassischer Anwendungsfall...
Als Produkte finde ich recht gut: TrendMicroViruswall, F-Secure Internet Gatekeeper for Linux/Windows, oder wenn Ihr etwas mehr Geld habt halt ich die iQSuite von Group für SMTP für absolut genial.
Ich teste die iQSuite für SMTP gerade, ist zwar deutlich günstiger als die Dominovariante, rechnet man die ganzen Module zusammen kommt man aber schon klar in die obere Preisklasse. Der Vorteil von Group ist allerdings das geniale modulare Konzept, sprich Du kannst per Knopfdruck zusätzliche Module aktivieren wie ContentFilter und Spamschutz, Virenscanning, zentrale Signaturverwaltung, Verschlüsselungsmodule S/MIME und PGP/GnuPGP, Archivierungsschnittstelle uvm...