Domino 9 und frühere Versionen > Entwicklung

Rechengenauigkeit INTEL ???

<< < (3/4) > >>

AC:
@ Marinero,:

Wegen Cheffe, bleibt nur eins.
"schummeln". Sicherstellen, daß in Dokument und auch view nur begrenzte Anzahl der Nachkommastellen. Und dann hoffem, daß Chef nicht auf die Idee kommt, in dei Feleigenschaften zu gucken.   <g>

Punkt 2: AS/400 rechnet auch nicht anders. Da kam das gleich heraus, auch hinten die " ...01".

@semeea:
das mit dem einmaligen Runden erst am Ende aller Rechenoperationen war mir an sich klar.
Aber danke für Deine Erlärung.

Bis später, Holcomb

AC:
Konsequenz:
Ich darf dem nach nie blauäugug abprüfen ob ein Wert, der aus einer aritmetischen Operation stammt,  = 0 ist, auch wenn er es nach Adam Riese aus Staffelstein eigentlich sein müsste.

Da ja leider
(184,8 - 182,5) - 2,3  <> 0  

:-/.

Holcomb

Marinero Atlántico:
Also Holcomb das ist wirklich kein Schummeln, wenn du die Zahlen entsprechend für das Display formatierst.
Die Feldeigenschaftenbox ist nicht für die Anwender gedacht, sondern für Admins und Entwickler.
Zählst, ist auf dem Platz (Fussball) oder
Zählt ist der View und im Dokument (Notes).  
Jens hat ja die Problematik der Repräsentation von Bruchzahlen (oh je das heisst anders, aber ich bin ohne Bücher) aufgezeigt.
Wenn ich mich recht erinnere haben z.B. RDBMS z.B. den Datentyp Decimal, um diese Float/Double Probleme zu umgehen. Da wird aber glaub ich auch intern gerundet.
Selbst BigDecimal in Java hat sicher irgendwelche Grenzen, wo es nicht mehr genau ist.

Semeaphoros:
Völlig richtig, dass eine Prüfung auf = extrem gefährlich ist, egal ob da auf der einen Seite eine Null ist oder ein anderer Wert, da müsste man ein Epsilon definieren, sprich einen Bereich, innerhalb dem man annimmt, dass die Werte tatsächlich gleich sind.

AC:

--- Zitat von: Semeaphoros am 06.07.04 - 11:44:21 ---Völlig richtig, dass eine Prüfung auf = extrem gefährlich ist, egal ob da auf der einen Seite eine Null ist oder ein anderer Wert, da müsste man ein Epsilon definieren, sprich einen Bereich, innerhalb dem man annimmt, dass die Werte tatsächlich gleich sind.

--- Ende Zitat ---

Jou.  Wird einem hier mal wieder vor Augen geführt.
Bleibt als Lösung am Ende einer Berechnung das Endergebnis zu  runden (und nicht auch die Teilergebnisse wie Du oben auch berschrieben hast) und zwar auf die Genauigkeit mit der man arbeiten will.

Ich setz den Thread mal auf erledigt.

Thx an alle Schreiber hier im Thread.

Bye, Holcomb

Navigation

[0] Themen-Index

[#] Nächste Seite

[*] Vorherige Sete