Domino 9 und frühere Versionen > ND6: Entwicklung

Hilfe bei simpler Rechnung in @Formel

(1/6) > >>

Jenson:
Hallo zusammen,

ich verzweifle gerade an einer simplen Berechnung in Lotus Notes mit der @Formel. Ich habe zwei Variablen in denen beiden jeweils eine Zahl mit 2 Nachkommastellen gehalten wird. Diese beiden ziehe ich von einander ab und bekomme dann eine Zahl mit ziemlich vielen Nachkommastellen zurück.

Beispiel:

_HoursIst hat als Wert 8,45
_HoursSoll hat als Wert 8


Diese Formel:
_Debit := (_HoursIst - _HoursSoll)

ergibt dann den Wert 0.449999999999999

Ich habe mittels @TextToNumber aus Textfeldern die beiden Variablen _HoursIst und _HoursSoll gefüllt und das Ergebnis der Formel auch wieder mit @Text in ein Textfeld geschrieben.

Gibt's da irgendeine Erklärung dazu? Und ich dachte ich kann mittlerweile mit der Formelsprache umgehen :-)  ???

Jenson

eknori (retired):
schau mal hier rein http://www.atnotes.de/index.php?board=7;action=display;threadid=14989;start=0 da ist so eine ähnliche Thematik beschrieben

Jenson:
Hallo eknori,

Das ist jetzt ein echtes Problem. Ich habe auch einfach mal versucht den Wert einfach per  @Round( <ERGEBNIS>; 0,01) zu runden. Das wiederrum führt zum totalen Abbruch des Scriptes.

Wie bringe ich das nun unserem Chef bei.... Es geht dabei um eine Simple Berechnung von Überstunden ... Ts...

Jenson

eknori (retired):
hmm, was passiert denn, wenn man das Ganze in Minuten umrechnet, die Subtraktion durchführt und dann das ergebnis wieder in stunden ?

Semeaphoros:
Nehme an, Du meinst Abbruch der Formel. Was heisst hier übrigens total? Fehlermeldung? Kein Resultat? Warum stellst Du nicht die Anzeigeoptionen auf 2 Stellen nach dem Komma?

Navigation

[0] Themen-Index

[#] Nächste Seite

Zur normalen Ansicht wechseln