Domino 9 und frühere Versionen > ND7: Entwicklung

komisches Ergebnis in Ansicht

(1/1)

Remy9999:
Hallo,

kein Problem - aber komisch!

In einem Kassenprogramm habe ich eine Ansicht, bei der eine Spalte berechnet ist. Als Input habe ich immer 2 positive Werte, die einfach subtrahiert werden. In (hoffentlich) > 99% der Fälle ist das Ergebnis 0,00.

Jetzt das komische: Mal bekomme ich 0,00 angezeigt, mal -0,00.  ???.
Mit @abs kann ich nicht arbeiten, da die Differenz ja positiv oder negativ sein kann.

It's not a bug, it's a feature?

mfg
Martin

m3:
Aus der Designer-Hilfe zu number fields:

--- Zitat ---A number field can store up to 8 non-zero decimal digits without loss of precision. IBM® Lotus® Notes® implements floating point arithmetic using the IEEE64 industry standard. In cases where a user enters more than 8 non-zero decimal digits, rounding may occur and the number may display and be stored differently from the number the user entered.
--- Ende Zitat ---

Signed zero


Works as designed, würde ich sagen.

Remy9999:
Ummpfff - wer lesen kann ist klar im Vorteil!!!  ;D

Danke

Navigation

[0] Themen-Index