Domino 9 und frühere Versionen > ND9: Entwicklung
Rundungsfehler in Währungsfelder?
(1/1)
LordKiri:
Hallo zusammen,
ich musste gerade feststellen, dass eine Formel von mir nicht richtig funktioniert. Dann habe ich einfach den guten alten Taschenerechner aus der Schublade geholt und habe nachgerechnet.
Als Ergebnis bekomme ich 128,545, gebe ich nun diesen Wert in ein Zahlenfeld mit Währungseinstellungen macht Notes daraus 128,54.
Ich bin mir aber gerade nicht sicher, ob ich nicht einfach etwas übersehe oder ob Notes hier tatsächlich falsch rundet, gibt man 128,5451 ein schreibt Notes auch 128,55 in das Feld.
Gruß
Andreas
koehlerbv:
Nach der mathematischen Rundungsregel ist das korrekt:
--- Zitat ---Folgt auf die letzte beizubehaltende Ziffer lediglich eine 5 (oder eine 5, auf die nur Nullen folgen), so wird derart gerundet, dass die letzte beizubehaltende Ziffer gerade wird.
--- Ende Zitat ---
Quelle: http://de.wikipedia.org/wiki/Rundung
Kaufmännisch gerundet ist das jedoch falsch.
Bernhard
LordKiri:
Wie löse ich jetzt aber mein Problem?
flaite:
Diese Notes Währungsfelder waren schon im letzten Jahrtausend umstritten (1999 zum Bleistift).
Du kannst einen Java Agenten im Querysave schreiben, der BigDecimal.ROUND_HALF_UP
http://www.opentaps.org/docs/index.php/How_to_Use_Java_BigDecimal:_A_Tutorial
LordKiri:
Danke für die Antwort, werde mir das anschauen und schauen wie ich es eingebaut bekomme...
Gruß
Andreas
Navigation
[0] Themen-Index
Zur normalen Ansicht wechseln