Domino 9 und frühere Versionen > Entwicklung
Nicht speichern, wenn 2 Werte nicht gleich sind.
AC:
Hi Timo.
Generell: Vorsicht beim Zahlen vergleichen, da musst du etwas aufpassen.
In Deinem Fall. Beispiel.
Im feld A steht bei dir 2,3 drin im Feld B
wir der Wert berechnet aus 184,8 - 182,5.
Nach Adam Riese müsste in Feld B auch 2,3 drin stehen , tut es aber nicht. (sondern 2,3000...01)
Vergleichst Du nun die zwei felder miteinander, .. Überraschung: Nicht gleich.
Bye Holcomb
Tino:
Danke für den Hinweis. Da wäre ich sicher nicht so leicht drauf gekommen. Werde jetzt gleich noch mal überprüfen ob der Fall auch bei mir eintreten kann...
Vielen DANK!
WMotzet:
@Holcomb diese Überraschung habe ich auch schon erlebt, kannst Du erklären, wo das herkommt? ???
AC:
--- Zitat von: Tino am 22.07.04 - 12:06:00 ---Danke für den Hinweis. Da wäre ich sicher nicht so leicht drauf gekommen. Werde jetzt gleich noch mal überprüfen ob der Fall auch bei mir eintreten kann...
Vielen DANK!
--- Ende Zitat ---
Ist ein generelles Problem (z.B. auch in Excel) und taucht bei vielen Zahlen im Nachkommabereich auf.
Problematisch wirds vor allem dann, wenn Du eben zwei Werte vergleichen musst. Da hilft dann nur ein workaround.
Holcomb
AC:
--- Zitat von: WMotzet am 22.07.04 - 12:09:44 ---@Holcomb diese Überraschung habe ich auch schon erlebt, kannst Du erklären, wo das herkommt? ???
--- Ende Zitat ---
Hi Motzet,
gab vor kurzer Zeit hier im Forum einen Thread hier zu dem Thema.
Les da mal nach.
(Suche mal via "Suche" mit Sichwort INTEL oder Rechengenauigkeit)
Gruß Holcomb
Navigation
[0] Themen-Index
[#] Nächste Seite
[*] Vorherige Sete
Zur normalen Ansicht wechseln