Autor Thema: Rechenfehler im Notes  (Gelesen 1766 mal)

Offline Cookie

  • Junior Mitglied
  • **
  • Beiträge: 85
  • Geschlecht: Männlich
  • Ja
Rechenfehler im Notes
« am: 20.07.21 - 15:19:17 »
Hallo zusammen,

ich habe die Forumssuche benutzt aber nichts passendes gefunden  (nur dieses Thema: https://atnotes.de/index.php/topic,16748.0.html).

Kann bitte jemand eine dieser Rechenoperation nachstellen (z.B. in einer Spaltenformel oder Prompt)
und schauen, ob das Ergebnis 2 oder zu viele (ca. 10) Stellen nach dem Komma hat:

4995,99-4096,93
5010,16-4995,93
7010,16-6995,93
100010,16-90995,93

Gruß
« Letzte Änderung: 20.07.21 - 15:23:30 von Cookie »

Offline Tode

  • Moderatoren
  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 6.870
  • Geschlecht: Männlich
  • Geht nicht, gibt's (fast) nicht... *g*
Re: Rechenfehler im Notes
« Antwort #1 am: 20.07.21 - 16:12:00 »
Du hast doch schon den korrekten Artikel gefunden... Und auch wenn der schon aus dem Jahr 2004 ist: An der grundsätzlichen Aussage von Jens hat sich nichts geändert:

Leute, solange man binär rechnet und nicht mit BCD, sind die Rundungsfehler inhärent und haben nix mit Fehlern im Pentium oder was auch immer zu tun. Das hängt ganz einfach damit zusammen, dass sich die endlich darstellbaren Zahlen des Dezimalsystems nicht unbedingt mit endlichen Zahlen des Binärsystemes darstellen lassen, es gibt also keine 1 zu 1 Relation zwischen Dezimal und Binär, und damit kommt es zwangsläufig zu Rundungsfehlern, ob man will oder nicht.

Da braucht niemand "nachzustellen", das ist genau so wie es ist...
« Letzte Änderung: 20.07.21 - 16:14:48 von Tode »
Gruss
Torsten (Tode)

P.S.: Da mein Nickname immer mal wieder für Verwirrung sorgt: Tode hat NICHTS mit Tod zu tun. So klingt es einfach, wenn ein 2- Jähriger versucht "Torsten" zu sagen... das klingt dann so: "Tooode" (langes O, das r, s und n werden verschluckt, das t wird zum badischen d)

 

Impressum Atnotes.de  -  Powered by Syslords Solutions  -  Datenschutz