Domino 9 und frühere Versionen > ND7: Entwicklung
Einmal Luft rauslassen
Glombi:
siehe bspw. auch
http://atnotes.de/index.php?topic=29807.0
Ergo: JavaSucks == true ;D
Demian:
Weiß ja nicht, ob ich was verpasst habe, aber ich nehme mal an es geht um die Nachkommastellen.
Msgbox Ccur(558.33 - 546.01)
löst das Problem doch? Warum jetzt die Aufregung?
Gruß
Demian
botschi:
OK, alles klar. Es ging um Nachkommastellen usw.
Damit habe ich auch schon gekämpft.
Der Betreff im Zusammenhang mit dem Text hat mich aus der Kurve geworfen. Ich habe den Zusammenhang gesucht und nicht gefunden.
Schreiben Sie es auf, ich beschäftige mich später damit ... ;D
dirk_2909:
--- Zitat ---Einmal Luft rauslassen
--- Ende Zitat ---
Dann ist die Luft wohl jetzt raus... ;D
flaite:
--- Zitat von: Glombi am 22.11.06 - 12:13:11 ---siehe bspw. auch
http://atnotes.de/index.php?topic=29807.0
Ergo: JavaSucks == true ;D
--- Ende Zitat ---
Mit BigDecimal geht das:
--- Code: ---import java.math.BigDecimal;
public class BigDecimalTest {
public static void main (String [] args) {
System.out.println("no good:");
System.out.println("558-546.01=" + (558-546.01));
System.out.println("works:");
BigDecimal first = new BigDecimal("558.33");
BigDecimal second = new BigDecimal("546.01");
BigDecimal result = first.subtract(second);
System.out.println(first.toPlainString() + "-" + second.toPlainString() + "=" + result.toPlainString());
}
}
--- Ende Code ---
ergibt:
--- Code: ---no good:
558-546.01=11.990000000000009
works:
558.33-546.01=12.32
--- Ende Code ---
Navigation
[0] Themen-Index
[*] Vorherige Sete
Zur normalen Ansicht wechseln