Domino 9 und frühere Versionen > Entwicklung
@Round(3,5) gibt 3 !?
cococo69:
Hallo,
in einem berechneten Feld (A) wird das Ergebnis aus 21 / 6 korrekt mit dem Wert 3,5 ausgegeben. Dieses Ergebnis verwende ich in einem weiteren berechneten Feld mit @Round(A), das Ergebnis ist erstaunlicherweise 3 und nicht wie anzunehmen 4 ???
Lasse ich Notes jedoch direkt @Round(3,5) rechnen, ist das Ergebnis 4!
Wie kommt das?
Gruß
Armin
koehlerbv:
Was hast Du denn für eine Version ? Bei mir kommt bei
@Round (Zahl1 / Zahl2) mit Deinen Werten 4 heraus ...
Bernhard
sloe:
Hi,
wenn ich mir die Hilfe so ansehe:
If the first non-significant digit is 5, and all subsequent digits are 0, the last significant digit is rounded to the nearest even digit. See the example that follows.
Print Round(4.45, 1) ' Prints 4.4
rundet die Funktion bei einer 5 ab...
oder auch:
Beispiele: @Round
1. Dieses Beispiel ergibt 1.
@Round(1,499)
2. Dieses Beispiel gibt 2 zurück.
@Round(1,5)
Funktioniert auch so bei mir (4 statt 3) unter 5.07. Selbst das gerundete Feld nochmal gerundet funktioniert. Was steht denn in der Formel des zweiten Feldes?
Gruß
sloe
cococo69:
Hallo,
habe die Sache nochmal genauer untersucht.
An der Version liegt es nicht - getestet mit 3 Versionen (4, 5 und 6).
@Round(21/6) ergibt bei mir auch in allen Versionen 4!
Irgend wie muss das mit der internen Speicherverwalung zu tun haben!?
Der Wert 21 setzt sich folgendermaßen zusammen:
(6*2)+1+(5/3)+(9/3)+(10/3)
Als Ergebnis wird 21,00000000 ausgegeben!
Der Wert 6 ist das Ergebnis von
5+1
Lasse ich Notes nun
@Round(((6*2)+1+(5/3)+(9/3)+(10/3)) / (5+1))
rechnen, ist das Ergebnis immer 3 ??? ??? ???
Wie kann ich dies meinem Chef nur beibringen?
Gruß
Armin
Driri:
Ist wirklich komisch, ich probier auch schon alle Kombinationen durch. Kann es sein, daß Notes intern durch die Brüche nicht mit 3,5 rechnet, sondern mit 3,4999999... ?
Navigation
[0] Themen-Index
[#] Nächste Seite
Zur normalen Ansicht wechseln