Domino 9 und frühere Versionen > ND6: Entwicklung

Hilfe bei simpler Rechnung in @Formel

<< < (4/6) > >>

Semeaphoros:
Bernhard: Die Rundungsdifferenz in diesem Fall hat nix zu tun mit der Operation, aus der das Ergebnis herauskommt, sondern mit der Umrechnung von Binär zu Dezimal und umgekehrt, deshalb kann es auch bei einer Subtraktion zu gerundeten Ergebnissen kommen. Da in R6 die gesamte @Formel-Engine neu geschrieben wurde, ist es durchaus klar, dass die Rundungsfehler nun halt an anderen Orten zuschlagen als dies noch zu R5-Zeiten der Fall war, also kein Bug in R6, sondern genau das Problem, auf das Ulrich hingewiesen hat: Rundungsungenauigkeiten. Man vergesse nicht, dass Umrechnung von einem Zahlensystem ins andere mit Multiplikation (und damit mit Rundungsproblemen und Fehlerfortpflanzung) zu tun hat.

koehlerbv:
@TextToNumber ("8,45") - @TextToNumber ("8") = 0,449999999

Wenn das kein Bug ist, dann weiss ich nicht, was ein Bug sein soll !!!
Notes betreibt hier "Schätzen Sie mal !"

"Wieviel ist 18 plus 5"? "Ungefähr 22".

Auf genau das läuft das hinaus. Das es bei Zwischenergebnissen zu Problemen kann - okay, das sehe ich noch ein. Aber
"8" als Zahl ist bei Notes 7,9999999
dafür habe ich NULL Verständnis.

Bernhard

Semeaphoros:
Sorry. Bernhard, aber wenn Du nicht mit BCD-Format rechnest, kann Dir tasächlich mit Print 8 eine 7,999999999 (ok, das Beispiel ist unpassend .... )oder sowas rauskommen, woher willst Du wissen, wie präzise die binäre Darstellung Deiner 8 ist? Diese Probleme kann man nur beheben, wenn man BCD als Datentyp verwendet, und der steht in Notes leider nicht zur Verfügung. Allein die Konvertierung der Datenbasis ist bereits fehlerbehaftet. Wenn Du 1/3 in Dezimal darstellst, gibts eine unendliche Zahl, wenn Du 1/3 im Trinärsystem darstellst, ist das 0,1 also ohne irgend eine Periode darstellbar. Zwischen Dezimal und Binär gibt es ganz ähnliche Erscheinungen

koehlerbv:
Der Background ist mir schon klar, Jens. Aber das ändert nichts, überhaupt nichts daran, dass Notes hier absoluten Mist baut - und das erst ab R6.

Bernhard

cococo69:

--- Zitat von: Jenson am 14.09.04 - 17:18:33 ---Ich kann das wie gesagt auch nicht in einem Feld rechnen, sondern einfach in einer Variablen innerhalb meiner Formel. Die Daten für die Berechnung bekomme ich als text aus einem DBLookup.

Jenson

--- Ende Zitat ---

Hallo Jenson,

Bug hin oder her... ("mein Bug dein Bug........")
Nehmen wir diese Rundungsproblematik einfach als gegeben, was spricht denn nun gegen ein @Round um dein Ergebnis???

Armin

Navigation

[0] Themen-Index

[#] Nächste Seite

[*] Vorherige Sete