Domino 9 und frühere Versionen > Entwicklung

Overflow bei Moduloberechnung

(1/2) > >>

Gruenkohl:
Hallo zusammen,

ich bekomme bei folgender Rechnung eine "Overflow" angezeigt:

xy = 40867559636992 mod 187

Die Variable xy ist als Currency deklariert.
Auch wenn ich den Wert in einen String schreiben möchte bekomme ich den Fehler.

Kann Notes so große Zahlen nicht mit "mod" berechnen?  ???

Danke und Gruss
Andreas

koehlerbv:
Nur eine Vermutung: Der data type von Modulo ist Long. Es könnte sein, dass der für Zwischenschritte verwendet wird - und dabei wird er von Deiner Zahl "gesprengt".

Ich denke, man sollte (in allen Programmiersprachen) immer den "kleinsten gemeinsamen Nenner" (hier besser: Das schwächste Glied der Rechen-Kette) berücksichtigen.

Bernhard

Gandhi:
Currency? 40.867.559.636.992 ?
40 Billionen? Ist das irgendeine Anwendung zur Berechnung des deutschen Schuldenberges oder was  ;D
Welche Währung soll das sein? Bananendollar?  ;)

koehlerbv:
Gibt coole Wechselkurse: 1 Pfund Sterling = 1 Pfund Bananendollar.

Bernhard  ;D

Gandhi:
Ansonsten lässt sich modulo ja auch einfach selbst entwickeln

a=40000000000
d=187

while a>d
   a=a-d
wend

Dabei sollte selbst bei einem Fliesskommazahlentyp ein richtiger Wert herauskommen.


BTW: 187?

187 Leute wollen Fort Knox ausrauben in dem 40.000.000.000 $ in Gold liegen, nur ganze Dollar verteilen und von dem Rest eine Party schmeissen? Und daher musst Du jetzt den Modulo davon berechnen, weil Du für den Caterer programmierst? ;)

Navigation

[0] Themen-Index

[#] Nächste Seite