以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  金字塔软件问题提交  (http://weistock.com/bbs/list.asp?boardid=2)
----  input后台不准确  (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=29772)

--  作者:hebeihk
--  发布时间:2012/10/12 11:00:28
--  input后台不准确

input:账号(45700077,1,9999999999,1);

debugout(\'账号:%.0f\',账号);

 

后台运行后显示:

2.10.12 11:00:01 IF10
运行结束
12.10.12 11:00:02 IF10
账号:45700076
12.10.12 11:00:02 IF10
运行结束
12.10.12 11:00:03 IF10
账号:45700076
12.10.12 11:00:03 IF10
运行结束


--  作者:every
--  发布时间:2012/10/12 11:29:16
--  

7位以内可以正常显示.

 

这个可能是数据太长了,计算机在处理和转换后1-2位的时候,出现了误差

[此贴子已经被作者于2012-10-12 11:29:30编辑过]

--  作者:hebeihk
--  发布时间:2012/10/15 8:11:09
--  
input 函数值大于7位后,后台运行自动会在尾数上加减1,值就不准确了,这是BUG吗
--  作者:jinzhe
--  发布时间:2012/10/15 8:43:21
--  
 

您好,请稍等,技术人员正在核实处理中。处理完毕后会马上给您解答


--  作者:rushtaotao
--  发布时间:2012/10/15 8:55:19
--  
您说的这种问题确实存在,可能是由于数据精度所造成的,目前解决的办法可能只能将数字先转换为字符串,使用的时候再转换成数字来保持数字精度来解决问题。