Mmmh, das ganze passiert, wenn ein Absatz in einem Richtext so groß ist, dass der Client ihn nicht mehr darstellen kann - da gibt's halt Grenzen, die weit unter der max. Größe eines RT-Items liegen.
Mir fällt da spontan nur folgende Möglichkeit ein: Mit einem NotesRichTextNavigator i.V.m. SetCharOffset hangelst Du Dich durch das RT-Item und fügst unter Verwendung von BeginInsert und AddNewLine die erforderlichen Umbrüche ein. Wenn das klappt, lässt sich das Dokument anschließend öffnen und es kann per Hand nachgebessert werden.
Ist natürlich für ein einzelnes Dokument ein Mega-Aufwand ohne Erfolgsgarantie...