以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 金字塔软件问题提交 (http://weistock.com/bbs/list.asp?boardid=2) ---- 为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据 (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=60409) |
-- 作者:泰东使 -- 发布时间:2013/12/27 14:14:18 -- 为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据 为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据 比如一分钟的高 低之类的,数据很乱
|
-- 作者:lichenghu -- 发布时间:2013/12/27 14:36:07 -- 您好 ,这是对应的计算机浮点误差! |
-- 作者:泰东使 -- 发布时间:2013/12/27 16:22:08 -- 一定要用round限制小数位嘛 |
-- 作者:泰东使 -- 发布时间:2013/12/27 16:25:24 --
Myh=round(myh,1)//高
MYJ=round(MYJ,1)//开仓价 myh-myj 后还是N位小数点,要疯了 |
-- 作者:王锋 -- 发布时间:2013/12/27 17:23:45 -- 计算前不用做小数点处理,计算完毕后再处理即可。 通常情况下是不影响使用的,除非要用这个数字做精细对比时再考虑处理一下 |