Das Notes Forum
Domino 9 und frühere Versionen => ND6: Entwicklung => Thema gestartet von: cfiber am 16.02.06 - 05:05:12
-
Hallo,
wenn ich in einer Ansicht die Summe einer Spalte anzeigen lassen, kommt es manchmal zu folgender Darstellung:
100.45
40.50
...
...
...
_______
500.8999999999999
Das Feld in den Dokumenten ist ein Nummernfeld, mit 2 Dezimalstellen, das lasse ich einfach im View anzeigen.
Wenn kein Dokument im View ist, dann wird manchmal folgendes (o.ä.) angezeigt:
____________
0.0000006784
Kennt das Phänomen jemand?
DANKE!
-
Kann man bei diesen Spaltenformeln nicht angeben, dass die Ergebnisse auf sagen wir 3 Nachkommastellen gerundet werden sollen?
Ich bin nicht so der höhere Mathematiker, weshalb meine Erklärungen vielleicht begrifflich nicht so exakt sind. In den groben Linien stimmt es aber.
Das Problem gibts in Fließkommazahlen auf allen Programmierplattformen:
Die Menge der Rationalen Zahlen ist unendlich
{0.1, 0.01, 0.001, 0.0001, 0.00001, 0.000001, [...]}
Die Menge des Speicherplatz für die Fließkommazahlen aber nicht.
Such mal in google nach "Fließkommazahlen Rundungsfehler"
Ein bischen out-of-topic:
In Java gibts extra die Klasse java.math.BigDecimal. Die verschiebt diese Ungenauigkeiten für das Rechnen mit Rationalen Zahlen stark nach aussen.
Wolfgang Flamme kennt irgendwelche Mathematikprogramme, die sogar mit wirklichen Brüchen rechnen können.
-
ein solches Programm ist z.B. Matematica oder MathCad.
Wahrscheinlich verwendest du die Spalteneigenschaft um die Genauigkeit auf 2 Stellen nach dem Komma festzulegen. Verwende anstelle in der Spaltenformel @Round, dann dürfte das Summenergebnis auch besser aussehen.
-
Danke euch, werde das probieren, aber warum erscheint auch bei keinen Dokumenten in der Ansicht unten:
____________
0.000004564
Da sind ja keine Dokumente mehr. Kann doch nur nen Bug sein, oder?
-
sind eventuell Dokumente mit Leserfeldern in der Ansicht, auf die du keine Leserechte hast?
-
Ich hab dieses Phänomen auch schon in anderen Applikationen beobachtet. Zum Beispiel MS Access. Oder MS Word. Ich hab da auch schon gesehen, dass zum Bleistift Werte wie 5 auf 4.99 "abgerundet" wurden.
Ich denke nicht dass das ein Bug von Notes ist. Sondern eher eine generelle "Ungenauigkeit" in Windows oder C++?
Grüsse
Untitled