Einmal Luft rauslassen

[Krugo]

schreibt euch einfach mal einen LS-Agenten mit folgendem Inhalt:

Sub Initialize
   Messagebox 558.33 - 546.01
End Sub

Das Ergebnis beweist mal wieder: Mit Notes muss man Probleme lösen, die man ohne nicht hätte!!! 

NotesSucks = true

[Thomas Schulte]

Und was hat das jetzt mit Notes zu tun?

[Axel]

Und was hat das jetzt mit Notes zu tun?

Genau.

Denn z.B. in VBA ist das Ergebnis das Gleiche.


Axel

[dirk_2909]

558.33 - 546.01

Wo ist das problem??
Der Massagebox wird doch gesagt es soll 12,3200000000001 anzeigen   

Wenn ich Ihr sage ich will den String sehen, sieht es anders aus:

Code

Messagebox  "558.33 - 546.01"

Ich glaube hier macht nicht Notes die Probleme 

[botschi]

Was soll denn da passieren, was bei VB auch passiert?

[Axel]

Ich denke, dass passiert auch bei anderen Programmiersprachen.


Axel

[Thomas Schulte]

Genau. Weil das hat nämlich nichts mit der Sprache und viel mit der Art wie Binäres Rechnen funktioniert zu tun.

[Glombi]

alles kalter Kaffe

Das haben wir hier schon ausführlich diskutiert.

Andreas

[Thomas Schulte]

Eben.

[botschi]

Ich versteh das alles nicht  Was erwartet Krugo denn für ein Ergebnis?
Aber offensichtlich ist es auch nicht Wert, sich das zu merken.

Reservierten Speicherbereich wieder freigegeben... Blödsinn soll wichtiges ja nicht ersetzen 

[Glombi]

siehe bspw. auch
http://atnotes.de/index.php?topic=29807.0

Ergo: JavaSucks  == true 

[Demian]

Weiß ja nicht, ob ich was verpasst habe, aber ich nehme mal an es geht um die Nachkommastellen.

Msgbox Ccur(558.33 - 546.01)

löst das Problem doch? Warum jetzt die Aufregung?

Gruß
Demian

[botschi]

OK, alles klar. Es ging um Nachkommastellen usw.
Damit habe ich auch schon gekämpft.

Der Betreff im Zusammenhang mit dem Text hat mich aus der Kurve geworfen. Ich habe den Zusammenhang gesucht und nicht gefunden.

Schreiben Sie es auf, ich beschäftige mich später damit ... 

[dirk_2909]

Einmal Luft rauslassen

Dann ist die Luft wohl jetzt raus... 

[flaite]

siehe bspw. auch
http://atnotes.de/index.php?topic=29807.0
Ergo: JavaSucks  == true 

Mit BigDecimal geht das:

Code

import java.math.BigDecimal;


public class BigDecimalTest {
	
	public static void main (String [] args) {
		System.out.println("no good:");
		System.out.println("558-546.01=" + (558-546.01));
		System.out.println("works:");
		BigDecimal first = new BigDecimal("558.33");
		BigDecimal second = new BigDecimal("546.01");
		BigDecimal result = first.subtract(second);
		System.out.println(first.toPlainString() + "-" + second.toPlainString() + "=" + result.toPlainString());
	}

}

ergibt:

Code

no good:
558-546.01=11.990000000000009
works:
558.33-546.01=12.32