Ok, der Fehler wurde gefunden: die Partition mit dem Domino Datenverzeichnis drauf war fragmentiert (fsck hat 24% angezeigt + einie kaputte Files in den View Index, trotz unmengen an freiem Speicherplatz, der eigentlich Fragmentation unter ext3 vorbeugen sollte). Controler und Platte war in ordnung, zumindest hat das raufkopieren und lesen von 3GB Dateien (dd if=/dev/zero of=/data/irgendwas.dd ...) in akzeptablen Zeiten funktioniert.
Lösung: domino runterfahren, komplettes Datenverzeichnis auf das Backup kopieren (eine Stunde...), mkfs.ext3 auf die alte data Partition (10min) und wieder rüberkopieren. Danach war compact, updall und Co wieder in den alten Zeiten durch.