Autor Thema: cataloger wird innerhalb von 23 Std. nicht fertig  (Gelesen 6443 mal)

Offline MLe56

  • Aktives Mitglied
  • ***
  • Beiträge: 102
Bei einem Server mit ca 9.400 Datenbanken schafft es der catalog-Task nicht bis zum Ende.
Der Server wird einmal pro Tag heruntergefahren, der cataloger-Task um 21:00 Uhr gestartet und bis zum nächsten Server-Shutdown (19:45 Uhr) nicht fertig.
Auf dem Server gibt es nur einen normalen Katalog, kein Domain-Katalog.

Gibt es eine Möglichkeit den Prozess zu beschleunigen?

Matthias

Offline Ralf_B

  • Aktives Mitglied
  • ***
  • Beiträge: 144
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #1 am: 27.09.19 - 16:41:08 »
Respekt / ev. Mutig :9400 DB's auf einem einzelnen Server habe ich noch nicht so oft gesehen.

Ich mach das eigentlich immer über verteilte Hub Server mit entsprechenden Spokes um die DB's aufzuteilen.
Mein Max ist dabei ca 4000 DB's pro Server wenn der Agentmanager und Replikator;Indexer ...  damit klarkommt.
Und : Um so mehr Datenbanken pro Server umso weniger kommt Windows Server zum Einsatz (u.a.  wg Reboots ..)

Mein Vorschlag wäre die Reboots wöchentlich zu machen -> ev. OS wechseln / Backup oder eine Aufteilung der Datenbanken.
Vielleicht hat noch jemand eine besseere Idee?

Gruß
Ralf

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #2 am: 27.09.19 - 21:58:12 »
Respekt / ev. Mutig :9400 DB's auf einem einzelnen Server habe ich noch nicht so oft gesehen.
Ach? Wir haben auf unserem Server lt. catalog.nsf knapp 16.000 DB, allerdings keine Maildatenbanken, reine Anwendungen und ein paar wenige Mail-In.

Zugegeben ist unser System im Moment etwas träg, aber die Maschinen sind in die Jahre gekommen und werden bis Ende des Jahres durchgängig erneuert. Performancekiller bei uns sind langlaufende Agenten. Wenige Agenten, die viele Datenbanken bearbeiten, mit Laufzeiten von teilweise über 12 Stunden täglich. Beim letzten Serverwechsel halbierten sich die Laufzeiten, wir haben seitdem aber kräftig weiter gebaut und hoffen nun auf eine ähnliche Verbesserung.

Aussage eines unserer Admins: "Ich möchte bei uns auch kein Server sein" ;)

Offline ronka

  • Senior Mitglied
  • ****
  • Beiträge: 377
  • Was macht der hier denn, muß der überall sein ?
    • das nächste DominoCamp kommt in Juni 2023
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #3 am: 30.09.19 - 07:27:08 »
Die (für mich) wichtigste Frage ist eigentlich: Warum wird der Server Täglich runter gefahren ??
das neueste von Notes und Domino auf den DominoCamp vom 19 bis 21 Juni 2023 auf www.DominoCamp.de

Offline Ralf_B

  • Aktives Mitglied
  • ***
  • Beiträge: 144
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #4 am: 30.09.19 - 11:08:04 »
@Peter Klett:
Wie lange braucht da der Catalog Task und welches OS ist im Einsatz?

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #5 am: 30.09.19 - 13:20:12 »
Bin kein Admin. Wo kann ich die Laufzeit sehen? Habe im Log (log.nsf) nach "catalog" gesucht, aber nichts verwertbares gefunden. Betriebssystem ist irgendein 64 bittiges Linux (wir hatten ein Problem bei der Umstellung von 32 auf 64 Bit, sonst wüsste ich auch das nicht ;) ), im Moment keine Ahnung von weiteren Details

Offline Pfefferminz-T

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 1.204
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #6 am: 01.10.19 - 07:10:56 »
Da sollte im Log ein

Starting update of database catalog

Finished updating database catalog

auftauchen... sind meiner Meinung nach schon sehr viele Datenbanken auf euren Servern...
Grüsse,
Thorsten

Offline J Parlin

  • Senior Mitglied
  • ****
  • Beiträge: 390
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #7 am: 01.10.19 - 10:18:46 »
Warum wird die Kiste denn nun JEDEN TAG runtergefahren ( würde mich ja nun auch mal interessieren ) ?

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #8 am: 01.10.19 - 10:43:58 »
Da sollte im Log ein

Starting update of database catalog

Finished updating database catalog

auftauchen...
Diese Logeinträge finde ich nicht, trotzdem scheint die catalog.nsf ja aktualisiert zu werden. In den Datenbankeigenschaften der catalog.nsf steht ein letztes Änderungsdatum 01.10.2019 05:53:38.

sind meiner Meinung nach schon sehr viele Datenbanken auf euren Servern...

klar, wir machen ja auch viel. Irgendwo müssen wir unsere etwa 80-90 Mio Dokumente ja lassen ;)

Läuft aber grundsätzlich. Wir haben dafür relativ wenige User (~ 120) und keine Volltextindizierung der Datenbanken.

Offline Pfefferminz-T

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 1.204
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #9 am: 02.10.19 - 10:02:09 »
@Peter: Da bin ich mir nicht so sicher, dass da auch die Einträge aktualisiert werden. Bei ca. 2000 DBs auf einem Mailserver läuft der catalog-Task auch fast 24h...

Kannst Du mal eine Dummy-Änderung an einer ACL machen, ob die sich dann auch im Datenbankkatalog findet?
Grüsse,
Thorsten

Offline MLe56

  • Aktives Mitglied
  • ***
  • Beiträge: 102
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #10 am: 02.10.19 - 10:29:02 »
Sorry, war am WE und die letzten beiden Tage weg, deshalb melde ich mich erst heute wieder.
Wenn der Eintrag "Finished updating database catalog" fehlt, läuft der Catalog_task nicht bis zum Ende durch. Es werden trotzdem 80 - 90% der Einträge täglich aktualisert (sieht man am Änderungsdatum), aber eben nicht alle.
Das Herunterfahren, des Servers macht der Kunde aufgrund keiner geeigneten Backuplösung für Domino. Darauf hab eich keinen Einfluss. Auch die Betriebssystemversion, Windows Server, ist vorgegeben. Auf einem Linux-Server in einer anderen Installation schafft der Server 12.000 Datenbanken in 14 Std.

Matthias

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #11 am: 02.10.19 - 11:09:11 »
@Peter: Da bin ich mir nicht so sicher, dass da auch die Einträge aktualisiert werden. Bei ca. 2000 DBs auf einem Mailserver läuft der catalog-Task auch fast 24h...

Kannst Du mal eine Dummy-Änderung an einer ACL machen, ob die sich dann auch im Datenbankkatalog findet?
Wie geschrieben, ich bin kein Admin. Es wurde aber vor ein paar Tagen ein neuer Eintrag in alle ACL aufgenommen, der ist bei einigen Dokumenten im Katalog zu sehen, bei anderen nicht. Hat das irgendwelche Auswirkungen, außer, dass man das da nicht sehen kann?

EDIT: Bei genauerer Kontrolle finde ich keine Datenbank mehr, bei der der neue Eintrag nicht aufgelistet ist, die eine, bei der ich das gesehen hatte, war vermutlich eine ältere, die für die Änderung nicht relevant war. Natürlich finde ich die jetzt nicht wieder ...
In der Ansicht, in der die ACL-Einträge kategorisiert dargestellt werden, sind unter dem User gefühlt (habe nicht gezählt) alle relevanten Datenbanken vorhanden. Gehe daher aus, dass der Prozess durchläuft
« Letzte Änderung: 02.10.19 - 11:21:51 von Peter Klett »

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #12 am: 02.10.19 - 11:24:03 »
Wenn der Eintrag "Finished updating database catalog" fehlt, läuft der Catalog_task nicht bis zum Ende durch.
Da auch der Start des Prozesses nicht geloggt wird, überzeugt mich das nicht wirklich. Vielleicht loggt der das doch woanders, als dort, wo ich suche

Offline CarstenH

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 668
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #13 am: 02.10.19 - 11:52:29 »
Die Diskussion driftet gerade leicht von der ursprünglichen Frage weg - und anhand einer kleinen Rechnerei seht ihr auch gleich, warum es eigentlich total irrelevant ist wie viele Datenbanken (zahlenmäßig) da so vor sich hin existieren.

Ich habe mir mal aus einer Installation mit 3 Servern, davon 2 im Cluster und aktivem Domain Catalog die Zeiten herausgesucht. Und etwas experimentiert.

Ein Server (ich nenne ihn mal C) dreht nur für den Traveler und langweilt sich zu Tode - hier brauchte der Cataloger ca. 4s für alle(!) 126 DB's (=31,5 DB's je Sekunde, rein rechnerisch).
Dann kommen zwei geclusterte Server mit fast identischem Setting und DB-Umfang, da wird's gleich etwas spannender.
Server A - hier brauchte der Cataloger ca. 6min für 1337 DB's (=3,7 DB's je Sekunde).
Server B - hier brauchte der Cataloger ca. 48min für 1348 DB's (=0,45 DB's je Sekunde).

Es macht auch keinen wirklichen Unterschied ob die Cataloger im Datenbank-Modus oder als Domänenkatalog unterwegs sind - eine kurze Replikation zusätzlich sollte kaum der Rede wert sein.
Rein rechnerisch sind auch die in einem anderen Post erwähnten 16.000 DB's in unter 24h kein Problem - Server C könnte in 24h bei ca 30 DB's je Sekunde problemlos weit über 2.000.000 Datenbanken abfrühstücken und selbst der langsamste der drei (Server B) käme immer noch auf >38.000 DB's(!).
Es kommt also nicht wirklich auf die schiere Menge sondern auf andere Dinge an.
Wir haben hier beispielsweise für den nahezu gleichen Datenbestand der Server A+B einen Unterschied vom Faktor 10! Das kann ja nicht an einer handvoll Datenbanken liegen, oder? ;) Oh doch! Aber nicht an der DB-Anzahl.

Zuerst hatte ich die Last der Maschine B im Verdacht den Unterschied zu verursachen - aber morgens 3 und nachmittags 17 Uhr unterscheidet sich die Laufzeit nur um 1-2 Minuten; also Gedanke verworfen - andere Ursache.

Ich habe mir dann mal den Performancemonitor geschnappt und etwas genauer hingeschaut, was der Cataloger denn da so treibt, was er öffnet und wo er länger braucht.
Zusätzlich habe ich die Protokollierung am Server selbst eingeschaltet (log_catalog=1) um festzustellen ob es außer den angezeigten Datenbanken auch noch andere Zugriffe gibt.

Und au ja - die gibt es. Etwas überraschend für mich trieb sich der Cataloger nämlich nicht nur in den Datenbanken selbst sondern auch länger in den FT Dateien und (weniger überraschend) den ausgelagerten NDX Dateien herum.
Die größte Überraschung aber war, dass 90% der zusätzlich benötigten Zeit auf das Konto von 4-5 Datenbanken ging, in zweien trieb sich der Cataloger geschlagene 10 Minuten herum während er die restliche Masse quasi nebenbei verarbeitet hat.

Mit etwas Überlegung (und etwas Erfahrung aus diversen Performance-Analysen und -Optimierungen) kommt man zu folgenden Schlüssen:

Der Knackpunkt ist nicht die Last des Servers durch Nutzer oder Agenten sondern I/O. Je mehr man die I/O optimiert umso flotter kommt der Cataloger durch.
Im obigen Fall haben Server A+B die FTI und NDX zwar beide ausgelagert aber ratet mal, welcher Server die Verzeichnisse auch auf einem separaten LW verwendet und dadurch u.a. die Disk Queue (Warteschlange für Dateioperationen = I/O-Limit) und den Durchsatz (nochmal I/O) vervielfacht.

Was macht den Cataloger so I/O-intensiv? Er zählt. Er zählt und baut sich dafür scheinbar on-the-fly Query um Query zusammen für ACL, Dokumente, Design-Dokumente, gelöschte Dokumente, Profil-Dokumente, Nutzungsstatistiken (...).
Und in Datenbanken mit Millionen von Dokumenten aller Arten zählt er auch mal etwas länger. Und wenn die DB's und Indizies fragmentiert im Filesystem herumliegen noch länger.
Und wenn der Server auf der gleichen Platte nebenbei noch Compact, DBMT oder andere I/O-intensive Dinge tut noch viel länger.
Und wenn der Cataloger dann dabei noch auf DB's trifft, die lange nicht geöffnet wurden oder deren Zeitpunkt zum Prunen von Löschungen erreicht ist dann triggert er zuerst die entsprechenden Aufräumtasks und wartet so lange untätig.

Und last but not least: falls der Server während dieser Warterei herunterfährt wird er am nächsten Tag an der gleichen Stelle vermutlich wieder warten müssen.

HTH,
Carsten

Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #14 am: 02.10.19 - 12:09:27 »
Ich habe mal auf meinen Servern geschaut ( V9, 10, 11 )

Überall finde ich die Einträge

Starting update of database catalog
Finished updating database catalog

sowohl im Log, als auch in der console.log

Wenn du auf der catalog.nsf die Aktivitätsprotokollierung aktiviert hast, dann siehst Du dort auch einen entsprechenden Eintrag für den Server.

Da ich der deutschen Sprache soweit mächtig bin, dass ich via Suchen in einem Log nach dem Wort "catalog" (ok, das ist noch nicht mal deutsch) suchen kann, mag ich behaupten, dass bei uns diese beiden Einträge nicht geloggt werden. Habe sogar kurz mit einem unserer Admins gesprochen. Er sagte, dass bei uns eingestellt ist, möglichst wenig zu loggen. Ob das darauf Einfluss hat, wissen wir beide nicht.

Von meiner Seite würde ich die Diskussion zu meinem "Abdrift" auch einstellen wollen. Wir haben nämlich kein Problem, das es zu lösen gibt. Mich hat nur die pauschale Aussage ganz am Anfang gestört, dass mehr als 4000 Datenbanken auf einem Server kritisch seien.

Offline Ralf_B

  • Aktives Mitglied
  • ***
  • Beiträge: 144
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #15 am: 19.10.19 - 22:46:27 »
Wg: Mich hat nur die pauschale Aussage ganz am Anfang gestört, dass mehr als 4000 Datenbanken auf einem Server kritisch seien.
Hier möchte ich gerne Stellung nehmen, die Aussage kam ja von mir.

Ich kann hier nur, aufgrund MEINER Erfahungen, posten was ich machen würde.
Ich habe keine Erfahrung mit Umgebungen mit weniger als 80K Anwendern, und ich habe keine Erfahrungen mit Datenbanken die nicht mindestens mit 3 Servern replizieren und nicht mindestens einen Workflow haben.
Ich bin Admin und Entwickler.

Aber, dies macht doch dieses Forum aus : Verschiedene Erfahrungen zusammentragen, oder?
Sorry, wenn ich Dich verärgert habe, das wollte ich nicht!

Volle Zustimmumg : Zig tausenf DB's auf einem Domino Server ohne Anwender /IO: Kein Problem.

Wenn es nicht OK ist, aufgrung meiner Erfahrungen zu berichten, kann ich auch gerne dieses Form verlassen und nicht mehr versuchen Domino zu unterstüzen, dann muss ich halt nach anderen Möglichkeiten suchen.

Dies zeigt mir aber auch mal an andere Umgebungen zu denken, in anderen Dimensionen.
Vielen Dank für die Erfahrung.


Offline Peter Klett

  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 2.713
  • Geschlecht: Männlich
Re: cataloger wird innerhalb von 23 Std. nicht fertig
« Antwort #16 am: 21.10.19 - 22:42:57 »
Sorry, wenn ich Dich verärgert habe, das wollte ich nicht!
Nein, das ist sicherlich missverstanden worden. Du hast micht nicht verärgert, sondern lediglich eine Aussage gemacht, die ich so nicht teilen und daher nicht unkommentiert stehen lassen konnte

Wenn es nicht OK ist, aufgrung meiner Erfahrungen zu berichten, kann ich auch gerne dieses Form verlassen und nicht mehr versuchen Domino zu unterstüzen, dann muss ich halt nach anderen Möglichkeiten suchen.
Diesen Schluss aus meiner Antwort zu ziehen, kann ich nicht nachvollziehen. Wegen mir sollst Du das Forum nicht verlassen, ganz im Gegenteil.

 

Impressum Atnotes.de  -  Powered by Syslords Solutions  -  Datenschutz