Domino 9 und frühere Versionen > ND7: Entwicklung

Kurioses Verhalten bei Hide-When-Formel

<< < (2/2)

Werner Götz:
Das Problem liegt wohl daran, dass manche Zahlen, die uns im Dezimalsystem als "einfach" erscheinen als Binärzahlen periodische Brüche sind.
z.B. Dezimal 0,1 ist binär 0,00011001100110011...

Solche Zahlen können somit nur "ungenau" gespeichert werden und es kann immer wieder zu Problemen wie dem geschilderten kommen.

Dass es aber nicht immer zu diesem Problem kommt, liegt daran, dass es natürlich auch endliche binäre Nachkommazahlen gibt
z.B. Dezimal 0,5 ist binär 0,1
Und mit solchen kann man natürlich auch anständig rechnen.

-Werner

Navigation

[0] Themen-Index

[*] Vorherige Sete