Das Notes Forum
Domino 9 und frühere Versionen => ND7: Entwicklung => Thema gestartet von: Remy9999 am 27.08.10 - 09:17:02
-
Hallo,
kein Problem - aber komisch!
In einem Kassenprogramm habe ich eine Ansicht, bei der eine Spalte berechnet ist. Als Input habe ich immer 2 positive Werte, die einfach subtrahiert werden. In (hoffentlich) > 99% der Fälle ist das Ergebnis 0,00.
Jetzt das komische: Mal bekomme ich 0,00 angezeigt, mal -0,00. ???.
Mit @abs kann ich nicht arbeiten, da die Differenz ja positiv oder negativ sein kann.
It's not a bug, it's a feature?
mfg
Martin
-
Aus der Designer-Hilfe zu number fields:
A number field can store up to 8 non-zero decimal digits without loss of precision. IBM® Lotus® Notes® implements floating point arithmetic using the IEEE64 industry standard. In cases where a user enters more than 8 non-zero decimal digits, rounding may occur and the number may display and be stored differently from the number the user entered.
Signed zero (http://en.wikipedia.org/wiki/Signed_zero)
Works as designed, würde ich sagen.
-
Ummpfff - wer lesen kann ist klar im Vorteil!!! ;D
Danke