以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 高级功能研发区 (http://weistock.com/bbs/list.asp?boardid=5) ---- [原创]发现程序的一个BUG (http://weistock.com/bbs/dispbbs.asp?boardid=5&id=51981) |
-- 作者:yeyi -- 发布时间:2013/5/13 20:24:40 -- [原创]发现程序的一个BUG 我在后台编写一个程序时:
TNGWMWMJC=0.6
TNWMWMJC=(TNSellPrice1-TNBuyPrice1)/TNBuyPrice1*100 // TNWMWMJC<0.6 \'\'\'\'输出 END IF
结果: 1、 如果对TNWMWMJC用FormatNumber格式一下,则无论TNWMWMJC数值多小(小于0.6),均条件为真。(这是错误的,BUG)
2、 如果对TNGWMWMJC(就是0.6)用FormatNumber格式一下,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)
3、 如果对TNGWMWMJC、TNWMWMJC均不用FormatNumber格式,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)
哪位大师剖析一下。FormatNumber
[此贴子已经被作者于2013-5-13 20:25:55编辑过]
|
-- 作者:guotx2010 -- 发布时间:2013/5/14 9:40:11 -- 使用cdbl进行数值转换,就不会有问题了 |