etwas verspätet hier die Lösung: die mSuite ist voll kompatibel mit Domino 8.5, allerdings nur im 32-Bit Modus. Ich hatte Anfangs Domino 7.0.3 auf dem Windows 2003 R2 64-bit Server; das war kein Problem. Beim Update des Domino Servers habe ich dann die 64-bit Variante von Domino 8.5 installiert. Damit konnte der mNotes Server nicht umgehen.
Ich hatte zwischenzeitlich schon überlegt auf mNotes/mSuite zu verzichten und stattdessen Notes Traveler einzusetzen, aber als ich dann die ganzen Einschränkungen gelesen habe, wurde mir schnell klar, dass die mSuite ganz klar die besser Lösung ist.