以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 金字塔软件问题提交 (http://weistock.com/bbs/list.asp?boardid=2) ---- input后台不准确 (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=29772) |
-- 作者:hebeihk -- 发布时间:2012/10/12 11:00:28 -- input后台不准确 input:账号(45700077,1,9999999999,1); debugout(\'账号:%.0f\',账号);
后台运行后显示: 2.10.12 11:00:01 IF10 |
-- 作者:every -- 发布时间:2012/10/12 11:29:16 -- 7位以内可以正常显示.
这个可能是数据太长了,计算机在处理和转换后1-2位的时候,出现了误差 [此贴子已经被作者于2012-10-12 11:29:30编辑过]
|
-- 作者:hebeihk -- 发布时间:2012/10/15 8:11:09 -- input 函数值大于7位后,后台运行自动会在尾数上加减1,值就不准确了,这是BUG吗 |
-- 作者:jinzhe -- 发布时间:2012/10/15 8:43:21 -- 您好,请稍等,技术人员正在核实处理中。处理完毕后会马上给您解答 |
-- 作者:rushtaotao -- 发布时间:2012/10/15 8:55:19 -- 您说的这种问题确实存在,可能是由于数据精度所造成的,目前解决的办法可能只能将数字先转换为字符串,使用的时候再转换成数字来保持数字精度来解决问题。 |