AtNotes Übersicht Willkommen Gast. Bitte einloggen oder registrieren.
25.05.12 - 19:13:24
Übersicht Hilfe Regeln Glossar Suche Einloggen Registrieren
News:
Schnellsuche:
+  Das Notes Forum
|-+  Lotus Notes / Domino 7
| |-+  ND7: Entwicklung (Moderatoren: eknori, Glombi, koehlerbv)
| | |-+  komisches Ergebnis in Ansicht
« vorheriges nächstes »
Seiten: [1] Nach unten Drucken
Autor Thema: komisches Ergebnis in Ansicht  (Gelesen 313 mal)
Remy9999
Frischling
*
Offline Offline

Geschlecht: Männlich
Beiträge: 45


ALLES wird gut :-))


« am: 27.08.10 - 09:17:02 »

Hallo,

kein Problem - aber komisch!

In einem Kassenprogramm habe ich eine Ansicht, bei der eine Spalte berechnet ist. Als Input habe ich immer 2 positive Werte, die einfach subtrahiert werden. In (hoffentlich) > 99% der Fälle ist das Ergebnis 0,00.

Jetzt das komische: Mal bekomme ich 0,00 angezeigt, mal -0,00Huh.
Mit @abs kann ich nicht arbeiten, da die Differenz ja positiv oder negativ sein kann.

It's not a bug, it's a feature?

mfg
Martin

Gespeichert

______________________
WinDoof / 100 Clients / 8.51
m3
Moderatoren
Gold Platin u.s.w. member:)
*****
Offline Offline

Geschlecht: Männlich
Beiträge: 7279


Non ex transverso sed deorsum!


WWW
« Antworten #1 am: 27.08.10 - 09:35:25 »

Aus der Designer-Hilfe zu number fields:
Zitat
A number field can store up to 8 non-zero decimal digits without loss of precision. IBM® Lotus® Notes® implements floating point arithmetic using the IEEE64 industry standard. In cases where a user enters more than 8 non-zero decimal digits, rounding may occur and the number may display and be stored differently from the number the user entered.

Signed zero


Works as designed, würde ich sagen.
Gespeichert

HTH
m³ aka. Martin -- leyrers online pamphlet | LEYON - All things Lotus (IBM Collaborations Solutions)

All programs evolve until they can send email.
Except Microsoft Exchange.
    - Memorable Quotes from Alt.Sysadmin.Recovery

"Lotus Notes ist wie ein Badezimmer, geht ohne Kacheln, aber nicht so gut." -- Peter Klett

Weeks of programming can save you hours of planning!
Remy9999
Frischling
*
Offline Offline

Geschlecht: Männlich
Beiträge: 45


ALLES wird gut :-))


« Antworten #2 am: 27.08.10 - 09:42:33 »

Ummpfff - wer lesen kann ist klar im Vorteil!!!  Grin

Danke
Gespeichert

______________________
WinDoof / 100 Clients / 8.51
Seiten: [1] Nach oben Drucken 
« vorheriges nächstes »
Gehe zu:  


Einloggen mit Benutzername, Passwort und Sitzungslänge

Powered by MySQL Powered by PHP Powered by SMF 1.1.16 | SMF © 2006, Simple Machines Prüfe XHTML 1.0 Prüfe CSS
Impressum Atnotes.de - Powered by Syslords Solutions - Datenschutz | Partner: Tinte / Toner günstig