Der Agent läuft auf dem Server und darf daher keine UI-Funktionen, wie Msgbox enthalten.
Du erstellst im Script des Buttons ein Dokument, in das Du den Dateinamen der Datenbank schreibst, und dieses Dokument speicherst.
Beim RunOnServer gibst Du die NoteID dieses Dokuments mit, dieses Dokument öffnet der Agent dann über NotesAgent.ParameterDocID, und liest daraus die benötigten Angaben.
Das Parameterdokument kannst Du danach entweder löschen (Löschrecht vorausgesetzt), oder lässt es zur nächsten Verwendung stehen.