Autor Thema: komisches Ergebnis in Ansicht  (Gelesen 1700 mal)

Offline Remy9999

  • Junior Mitglied
  • **
  • Beiträge: 53
  • Geschlecht: Männlich
  • ALLES wird gut :-))
komisches Ergebnis in Ansicht
« am: 27.08.10 - 09:17:02 »
Hallo,

kein Problem - aber komisch!

In einem Kassenprogramm habe ich eine Ansicht, bei der eine Spalte berechnet ist. Als Input habe ich immer 2 positive Werte, die einfach subtrahiert werden. In (hoffentlich) > 99% der Fälle ist das Ergebnis 0,00.

Jetzt das komische: Mal bekomme ich 0,00 angezeigt, mal -0,00???.
Mit @abs kann ich nicht arbeiten, da die Differenz ja positiv oder negativ sein kann.

It's not a bug, it's a feature?

mfg
Martin

______________________
WinDoof / 120 Clients / 8.53

Offline m3

  • Freund des Hauses!
  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 8.102
  • Geschlecht: Männlich
  • Non ex transverso sed deorsum!
    • leyrers online pamphlet
Re: komisches Ergebnis in Ansicht
« Antwort #1 am: 27.08.10 - 09:35:25 »
Aus der Designer-Hilfe zu number fields:
Zitat
A number field can store up to 8 non-zero decimal digits without loss of precision. IBM® Lotus® Notes® implements floating point arithmetic using the IEEE64 industry standard. In cases where a user enters more than 8 non-zero decimal digits, rounding may occur and the number may display and be stored differently from the number the user entered.

Signed zero


Works as designed, würde ich sagen.
HTH
m³ aka. Martin -- leyrers online pamphlet | LEYON - All things Lotus (IBM Collaborations Solutions)

All programs evolve until they can send email.
Except Microsoft Exchange.
    - Memorable Quotes from Alt.Sysadmin.Recovery

"Lotus Notes ist wie ein Badezimmer, geht ohne Kacheln, aber nicht so gut." -- Peter Klett

"If there isn't at least a handful of solutions for any given problem, it isn't IBM"™ - @notessensai

Offline Remy9999

  • Junior Mitglied
  • **
  • Beiträge: 53
  • Geschlecht: Männlich
  • ALLES wird gut :-))
Re: komisches Ergebnis in Ansicht
« Antwort #2 am: 27.08.10 - 09:42:33 »
Ummpfff - wer lesen kann ist klar im Vorteil!!!  ;D

Danke
______________________
WinDoof / 120 Clients / 8.53

 

Impressum Atnotes.de  -  Powered by Syslords Solutions  -  Datenschutz