Domino 9 und frühere Versionen > ND8: Entwicklung

HEX nach DEZIMAL

<< < (2/2)

Lloyd:
Vielen Dank für die Infos.

AlexZX:
Hallo,

wir verwenden Lotus Notes 8.5.3 FP1 und ich musste heute feststellen, dass die VAL Funktion für HEX Werte über 8000 immer noch falsche Ergebnisse liefert!

z.B. Val(&H80000048) liefert -2147483576

richtig wäre aber 2147483720

Es muss also immer noch die Korrektur durchgeführt werden!

siehe: http://www-10.lotus.com/ldd/46dom.nsf/Search/6aee0fd377fc1cdf852566c20032f72b?OpenDocument

Mit freundlichen Grüßen
Alex

pram:

--- Code: ---z.B. Val(&H80000048) liefert -2147483576
--- Ende Code ---
Das wäre auch insofern richtig, wenn man von einem 32Bit Integer ausgeht (=Long in LotusScript)

Der Windows 7 Taschenrechner liefert das selbe, wenn man die Konvertierung im DWord-Modus durchführt.

2147483720 passt übrigens nicht mehr in einen LS-Long. (-2,147,483,648 - 2,147,483,647)
Da brauchst dann einen Currency.

Gruß
Roland

Navigation

[0] Themen-Index

[*] Vorherige Sete