Ok, noch mal einen Schritt zurück zur Begriffsdefinition.
SSL/TLS bezeichnen hier ein Verschlüsselungsprotokoll, SMTP (nicht SMTPS) ein anderes, unverschlüsseltes Protokoll.
Unterschiedlichen Protokollen werden (normalerweise) auch unterschiedliche Ports zugewiesen damit nicht erst durch mühevolles Handshaking der Partner ein gemeinsames Protokoll ermittelt werden muss.
Mit STARTTLS wurde ein Hilfsmittel geschaffen um, gegen den einen Standard, doch wieder mittels Handshaking einen Protokollwechsel zu ermöglichen ohne dabei auch den Port wechseln zu müssen. Grund dafür war ein anderer Standard, nämlich das so ziemlich alle Mailserver und -Clients über Port 25 kommunizieren. Man wollte also den einen Standard bewahren und hat dafür einen anderen aufgeweicht.
Übrigens: selbst Wikipedia ist sich nicht einig ob TLS jetzt zur Anwendungsschicht [1] oder doch zur Transportschicht [2] gehört, man sehe sich die jeweiligen Schichtenmodelle an:
[1]
https://de.wikipedia.org/wiki/Transport_Layer_Security[2]
https://de.wikipedia.org/wiki/SMTPSZurück zur Ausgangsfrage. Unter der Annahme, dass SMTP und SMTPS unterschiedliche Protokolle sind die, jedes für sich, über identische (STARTTLS:25) oder unterschiedliche Ports (SMTP:25/SMTPS:465) kommunizieren können, und man im Internet-Site-Dokument aber nur das Protokoll (SMTP/SMTPS) für anonym/auth konfigurieren aber nicht den dabei zu verwendenden Port (25/465) einstellen kann, macht meine ursprüngliche Aussage sicher mehr Sinn, oder?
Lege also zwei SMTP-Site-Dokumente an, eines z.B. für die Kontaktaufnahme via IP-Adresse und das andere via DNS-Eintrag. (Alternativ zweite IP vergeben, das wäre mein Favorit). Trenne (am Gateway) den eingehenden Traffic auf diese beiden Ziele auf. Jetzt kannst du für jede Variante die Authentifizierung getrennt einstellen.
HTH
Carsten