以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  金字塔软件问题提交  (http://weistock.com/bbs/list.asp?boardid=2)
----  为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据  (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=60409)

--  作者:泰东使
--  发布时间:2013/12/27 14:14:18
--  为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据
为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据

比如一分钟的高 低之类的,数据很乱

--  作者:lichenghu
--  发布时间:2013/12/27 14:36:07
--  
您好 ,这是对应的计算机浮点误差!
--  作者:泰东使
--  发布时间:2013/12/27 16:22:08
--  
一定要用round限制小数位嘛


--  作者:泰东使
--  发布时间:2013/12/27 16:25:24
--  
  Myh=round(myh,1)//高
  
       MYJ=round(MYJ,1)//开仓价
                                     

                                      myh-myj 后还是N位小数点,要疯了



--  作者:王锋
--  发布时间:2013/12/27 17:23:45
--  

计算前不用做小数点处理,计算完毕后再处理即可。

通常情况下是不影响使用的,除非要用这个数字做精细对比时再考虑处理一下