Domino 9 und frühere Versionen > ND6: Entwicklung

Notes rechnet falsch

<< < (2/2)

flaite:
Currency ist kein Fließkommatyp. Afaik ist es ein Dezimaltyp.
Heisst: 5 Stellen hinter dem Komma, von denen 3 angezeigt werden.
Viele werden ja den Dezimaltyp aus SQL kennen.
Es gibt viele, die einen solchen Typ für Java 7 fordern.
In Java gibts BigDecimal als genauere Alternative. Ist aber ziemlich schwerfällig mit zu programmieren.
Wenn du ganz am Schluß der Rechnung rundest, sollte es in der Regel keine Probleme geben.

Gruß Axel

koehlerbv:

--- Zitat von: Axel Janssen am 03.04.06 - 16:29:57 ---Wenn du ganz am Schluß der Rechnung rundest, sollte es in der Regel keine Probleme geben.
--- Ende Zitat ---

Ich befürchte, das wäre kontraproduktiv: Wie willst Du runden? Mit welcher Genauigkeit? Wenn jemand 500.001 Cent in 2-Cent-Stücken bestellt, wirst Du einen anderen Maßstab ansetzen müssen als bei 700 EUR in 200 EUR-Scheinen ...
Dann doch lieber auf Ganzzahlen ausweichen. Es ist ja unterm Strich auch wurscht, was man als Basiseinheit hernimmt: 1 Cent oder 1 EUR. 70.000 Cent bekomme ich ja auch nicht in 20.000 Cent-Scheinen (so rein mathematisch ...).

Bernhard

flaite:
Wieso?
Wenn man etwas in einer ganzen Stückelung benötigt, kann man es auf 0 Stellen hinter dem Komma runden.
Ich wurde schon 2 mal überzeugt, als ich glaubte wir bräuchten BigDecimal und jemand hat mich dann überzeugt, dass es mit der korrekten Rundungsoperation an der richtigen Stelle auch mit double geht.

koehlerbv:

--- Zitat von: Axel Janssen am 03.04.06 - 17:17:01 ---Wieso?
Wenn man etwas in einer ganzen Stückelung benötigt, kann man es auf 0 Stellen hinter dem Komma runden.
--- Ende Zitat ---

Ich glaube, Du hast Dir nicht mal mein Beispiel oben rechnerisch durch den Kopf gehen lassen. Wo willst Du denn da runden, ohne (fehlerhaft) genau das falsche Ergebnis (500.001 Cent kann ich in Zwei-Cent-Münzen bekommen) zu erhalten? Genau die Rundung ist hier doch das Kontraproduktive ...

Bernhard

Navigation

[0] Themen-Index

[*] Vorherige Sete