Autor Thema: Substrahieren von drei Feldern  (Gelesen 1521 mal)

Offline hupfi

  • Junior Mitglied
  • **
  • Beiträge: 73
Substrahieren von drei Feldern
« am: 04.03.15 - 14:39:09 »
Hallo @Notes'ler

ich stehe mal wieder von einem Rätsel und benötige deshalb eure Hilfe.

Ich möchte in einer Maske in einem Zahlenfeld drei Werte abziehen. Diese drei Werte befinden sich ebenfalls in Zahlenfeldern in der Maske.
Das eine Feld wird berechnet, das andere vom Benutzer eingegeben und das dritte wird per DBLookup in die Maske geschrieben. Die Subtraktion in dem Feld funktioniert ohne Probleme. Außer man verändert das Eingabefeld so, dass das Ergebnis null ergeben müsste. Dann erscheint in dem Feld aber nicht 0, sondern 2,2204460493E-16.

Woran liegt das? Was mache ich falsch?

Schöne Grüße
« Letzte Änderung: 05.03.15 - 14:29:17 von hupfi »

Offline Tode

  • Moderatoren
  • Gold Platin u.s.w. member:)
  • *****
  • Beiträge: 6.885
  • Geschlecht: Männlich
  • Geht nicht, gibt's (fast) nicht... *g*
Re: Substrahieren von drei Feldern
« Antwort #1 am: 05.03.15 - 09:47:44 »
Und das ist auch richtig so. Nur weil Du als Mensch "0" rausbekommst, heisst das noch lange nicht, dass eine Maschine das auch so rauskriegt.

Problem: Dezimalzahlen können Binär nur "annähernd" beschrieben werden. Und das Ergebnis ist der Rundungsfehler (eine Differenz an der 16. Stelle nach dem Komma) dieser Umrechnung.
Du musst also Dein Ergebnis auf eine vernünftige Anzahl Stellen runden.

@All: ich weiss, dass das Finanzmathematisch nicht korrekt ist, aber für die reine Subtraktion kommt man so auf ein "plausibles" Ergebnis, und die Rundungsfehler summieren sich auch nicht auf
Gruss
Torsten (Tode)

P.S.: Da mein Nickname immer mal wieder für Verwirrung sorgt: Tode hat NICHTS mit Tod zu tun. So klingt es einfach, wenn ein 2- Jähriger versucht "Torsten" zu sagen... das klingt dann so: "Tooode" (langes O, das r, s und n werden verschluckt, das t wird zum badischen d)

Offline hupfi

  • Junior Mitglied
  • **
  • Beiträge: 73
Re: Substrahieren von drei Feldern
« Antwort #2 am: 05.03.15 - 14:29:00 »
Hi Tode,

danke für den Tip. Es funktioniert. Ist mir zwar net ganz logisch, weil die Zahlen im Feld nur zwei Kommastellen haben.
aber Hauptsache es funktioniert.

 

Impressum Atnotes.de  -  Powered by Syslords Solutions  -  Datenschutz