Das Notes Forum

Domino 9 und frühere Versionen => ND9: Entwicklung => Thema gestartet von: Cookie am 20.07.21 - 15:19:17



Titel: Rechenfehler im Notes
Beitrag von: Cookie am 20.07.21 - 15:19:17
Hallo zusammen,

ich habe die Forumssuche benutzt aber nichts passendes gefunden  (nur dieses Thema: https://atnotes.de/index.php/topic,16748.0.html).

Kann bitte jemand eine dieser Rechenoperation nachstellen (z.B. in einer Spaltenformel oder Prompt)
und schauen, ob das Ergebnis 2 oder zu viele (ca. 10) Stellen nach dem Komma hat:

4995,99-4096,93
5010,16-4995,93
7010,16-6995,93
100010,16-90995,93

Gruß


Titel: Re: Rechenfehler im Notes
Beitrag von: Tode am 20.07.21 - 16:12:00
Du hast doch schon den korrekten Artikel gefunden... Und auch wenn der schon aus dem Jahr 2004 ist: An der grundsätzlichen Aussage von Jens hat sich nichts geändert:

Leute, solange man binär rechnet und nicht mit BCD, sind die Rundungsfehler inhärent und haben nix mit Fehlern im Pentium oder was auch immer zu tun. Das hängt ganz einfach damit zusammen, dass sich die endlich darstellbaren Zahlen des Dezimalsystems nicht unbedingt mit endlichen Zahlen des Binärsystemes darstellen lassen, es gibt also keine 1 zu 1 Relation zwischen Dezimal und Binär, und damit kommt es zwangsläufig zu Rundungsfehlern, ob man will oder nicht.

Da braucht niemand "nachzustellen", das ist genau so wie es ist...