Domino 9 und frühere Versionen > ND6: Entwicklung

Datum und Zeitbrechnung

<< < (8/9) > >>

Semeaphoros:
Currency rundet tatsächlich. Da gibts 2 Bemerkungen dazu: zum einen steht das so nicht in der Hilfedatei (wenigstens bei mir nicht), was eine sehr unglückliche Nachlässigkeit darstellt, zum andern ist mir jetzt klar geworden, warum viele alte Hasen immer wieder vor dem Gebrauch des Datentyps Currency warnen. Dies in den Ohren hab ich ihn tatsächlich bisher nie verwendet. Werde dies mit Sicherheit auch in Zukunft nicht tun, dieses Verhalten ist schon recht problembehaftet.

Marinero Atlántico:
Jens. Ich kapier dein Problem mit Runden nicht, angesichts der Tatsache, dass Computer viele Elemente der unendlichen Menge der Reelen Zahlen nicht korrekt darstellen können.
Runden erscheint mir da als sinnvolle Konvention, die auch in der Finanzmathematik sehr verbreitet ist. 

Semeaphoros:
Schau mal Dein erstes Script an, wer kassiert die 3 cent 33? Und das waren erst mal die Kleinigkeit von 1000 Transaktionen .....

Semeaphoros:
PS: Ich hab übrigens überhaupt nichts gegen das Runden, ich hab was gegen das unüberlegte Runden und gegen das Runden im falschen Moment.

Marinero Atlántico:
Das double Ergebnis ist ja auch nicht "richtig". Es ist nur ein bischen genauer.


Ich hab 1001 mal 1/3 adiert.
1001 * (1/3) kann man kürzen zu:
1001/3.
Das ergibt auf dem Windows-Taschenrechner:
333,66666666666666666666666666667
Vergleich das mit den Werten oben.

Wie gesagt gibt es Bereiche in der angewandten Mathematik bestimmte Bereiche, wo per Konvention Runden am Ende der Operation ein allgemein anerkannter Standard ist.

Dann ist das Ergebnis zwar auf vielen Plattformen hinsichtlich der Genauigkeit suboptimal, aber zumindest überall reproduzierbar und nicht von unterschiedlichen Implementierung des Datentyps double abhängig.

Ich bleib übrigens bei der Hypothese, dass ich mit java.math.BigDecimal ein genaueres Ergebnis als mit double hinbekomme, aber das mach ich später.  8)

Gute Nacht

Axel

Navigation

[0] Themen-Index

[#] Nächste Seite

[*] Vorherige Sete