AtNotes Übersicht Willkommen Gast. Bitte einloggen oder registrieren.
20.09.21 - 00:09:51
Übersicht Hilfe Regeln Glossar Suche Einloggen Registrieren
News:
Schnellsuche:
+  Das Notes Forum
|-+  Domino 9 und frühere Versionen
| |-+  ND9: Entwicklung (Moderatoren: Axel, eknori, Thomas Schulte, koehlerbv, m3)
| | |-+  Rechenfehler im Notes
« vorheriges nächstes »
Seiten: [1] Nach unten Drucken
Autor Thema: Rechenfehler im Notes  (Gelesen 466 mal)
Cookie
Junior Mitglied
**
Offline Offline

Geschlecht: Männlich
Beiträge: 85


Ja


« am: 20.07.21 - 15:19:17 »

Hallo zusammen,

ich habe die Forumssuche benutzt aber nichts passendes gefunden  (nur dieses Thema: https://atnotes.de/index.php/topic,16748.0.html).

Kann bitte jemand eine dieser Rechenoperation nachstellen (z.B. in einer Spaltenformel oder Prompt)
und schauen, ob das Ergebnis 2 oder zu viele (ca. 10) Stellen nach dem Komma hat:

4995,99-4096,93
5010,16-4995,93
7010,16-6995,93
100010,16-90995,93

Gruß
« Letzte Änderung: 20.07.21 - 15:23:30 von Cookie » Gespeichert
Tode
Moderatoren
Gold Platin u.s.w. member:)
*****
Offline Offline

Geschlecht: Männlich
Beiträge: 6618


Geht nicht, gibt's (fast) nicht... *g*


WWW
« Antworten #1 am: 20.07.21 - 16:12:00 »

Du hast doch schon den korrekten Artikel gefunden... Und auch wenn der schon aus dem Jahr 2004 ist: An der grundsätzlichen Aussage von Jens hat sich nichts geändert:

Leute, solange man binär rechnet und nicht mit BCD, sind die Rundungsfehler inhärent und haben nix mit Fehlern im Pentium oder was auch immer zu tun. Das hängt ganz einfach damit zusammen, dass sich die endlich darstellbaren Zahlen des Dezimalsystems nicht unbedingt mit endlichen Zahlen des Binärsystemes darstellen lassen, es gibt also keine 1 zu 1 Relation zwischen Dezimal und Binär, und damit kommt es zwangsläufig zu Rundungsfehlern, ob man will oder nicht.

Da braucht niemand "nachzustellen", das ist genau so wie es ist...
« Letzte Änderung: 20.07.21 - 16:14:48 von Tode » Gespeichert

Gruss
Torsten (Tode)

P.S.: Da mein Nickname immer mal wieder für Verwirrung sorgt: Tode hat NICHTS mit Tod zu tun. So klingt es einfach, wenn ein 2- Jähriger versucht "Torsten" zu sagen...

Mit jedem Tag meines Lebens erhöht sich zwangsweise die Zahl derer...
... denen ich am AdminCamp ein Bier schulde... Wenn ich hier jemanden angehe: Das ist nie persönlich, sondern immer gegen die "Sparwut" der Firmen gedacht, die ungeschultes Personal in die Administration unternehmenskritischer Systeme werfen... Sprecht mich einfach am AdminCamp an, ich zahle gerne zur "Wiedergutmachung" das ein oder andere Bierchen an der Bar
Seiten: [1] Nach oben Drucken 
« vorheriges nächstes »
Gehe zu:  


Einloggen mit Benutzername, Passwort und Sitzungslänge

Powered by MySQL Powered by PHP Powered by SMF 1.1.21 | SMF © 2006, Simple Machines Prüfe XHTML 1.0 Prüfe CSS
Impressum Atnotes.de - Powered by Syslords Solutions - Datenschutz | Partner: