Das hat IMO wenig mit dem Dominoserver zu tun. Vermutlich ist im Client in der AU unter "Internet Browser" irgendetwas anders konfiguriert, als es im 5er Client der Fall war.
Die Anmeldung, die da angefordert wird, ist ja keine Anmeldung von Notes/Domino, sondern von einer Webseite bzw. vom Proxy/Firewall.
Beim Aufruf einer URL aus Notes heraus, ziehen die Einstellungen aus der AU.
Steht da z.B. ein Proxy eingetragen (falls einer verwendet wird) ?