Das Problem besteht leider immer, wenn man gleichzeitig authentifiziertes und anonymes SMTP auf der gleichen Ebene zulässt.
Direkt (am Domino) eingelieferte Mails erkennt man an einem einzelnen Received-Header, die meisten SPAM Mails kommen über andere Server oder gekaperte Accounts im Internet und haben bereits mehrere Hops hinter sich (= mehrere Received Header).
Was man aber nicht auseinanderhalten kann sind anonyme und authentifizierte Mails, die direkt am Domino abgegeben werden.
Mit DNS-Blacklist-Filtern im Konfigurationsdokument kann man IP Bereiche von dynamischen Adressen als nicht vertrauenswürdig blocken, das würde ich hier auf jeden Fall versuchen, das dürfte geschätzt 80% der direkten Kontakt-Versuche verseuchter PC's verhindern.
Man kann dann zwar mit ein paar Schaltern noch etwas feintunen aber an der grundsätzlichen Problematik ändert sich nichts, da im SMTP Protokollstandard hierfür nichts vorgesehen ist - jedes Feld, was man zusätzlich in eine Mail schreibt könnte auch so bereits von außen gekommen sein - und damit hängen wir wieder bei der Vertrauensfrage.
Zum Feintunen: bitte selbst googlen nach SMTPVerifyAuthenticatedSender, RouterUseFromAsSMTPOriginator und SMTPAllowConnectionsAnonymous. Aber nochmal: eine echte Lösung sind diese Parameter nicht, sie ändern das Verhalten nur für bestimmte Situationen.
Eine andere Möglichkeit wäre VPN für eigene Nutzer zu erzwingen, damit kann man anhand der IP im Received Header filtern oder sogar für die Authentifizierung nur den eigenen IP Bereich freigeben.
Eine bessere Möglichkeit hier wäre, wenn man für die eigenen Nutzer statt nativem SMTP den Traveler Dienst verwendet.
Das funktioniert aber leider nicht für beliebige Clients, mobile Clients sind zwar kein Problem aber unter Windows geht swiw nur die MS Mail App die da mitspielt. Oder per Browser. Für den Nutzer ändert sich ansonsten erstmal nicht viel. Für Outlook gibt es zwar noch HTMO aber das benötigt wieder eine lokal am PC installierte Komponente was auch nicht jedermans Sache ist.
In jedem Fall findet via Traveler die Kommunikation mit anderen Protokollen als IMAP/POP/SMTP statt und einen Received-Header gibt es dann ebenfalls nicht mehr, stattdessen erkennt man die eingeloggten Nutzer dann z.B. an Feldern wie INetFrom und Principal, die Felder unterscheiden sich vereinfacht gesagt kaum von denen der Clientnutzer.
HTH
Carsten