自定义函数问题

100020153

我添加了个自定义函数，从ini文件里读出一个字符串 比如：20240617  ，用 Application.MsgOut  ( )  输出也是20240617。  但是公式里调用显示的是20240616， 因为ini文件读出来是字符串，我是用了Clng 函数来转换， 返回不对后， 我改成了用 Abs转换  ，我本机就正常了，但是换另一个人的机器 他还是不正确。 请问这是怎么回事？
  补充 ：是金字塔6.3版本，另一个人也是6.3版本



补充内容 (2024-6-21 16:11):
数据是基数，但返回变成了偶数。而且这个偶数是相邻的偶数。但有时向前相邻，有时向后相邻。

补充内容 (2024-6-21 16:30):
进一步测试可以发现，如果把数字缩短，比如成6位数，没有问题。

技术006

因为在pel中数据时float类型，超出数据精度（7位）就会产生浮点型误差。建议考虑将日期截取掉。或者按照金字塔的日期格式处理例如1240624

100020153

那为何有的机器没有任何误差？

技术006

100020153 发表于 2024-6-25 17:49
那为何有的机器没有任何误差？

浮点型在内存中是以二进制形式表示，这个误差并不是绝对误差，它受不同计算机底层硬件、cpu架构等影响，误差也存在不同。你目前只能考虑按照2楼提供的方式缩短位数保证数据精度。