以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  高级功能研发区  (http://weistock.com/bbs/list.asp?boardid=5)
----  [原创]发现程序的一个BUG  (http://weistock.com/bbs/dispbbs.asp?boardid=5&id=51981)

--  作者:yeyi
--  发布时间:2013/5/13 20:24:40
--  [原创]发现程序的一个BUG

我在后台编写一个程序时:

 

 

                         TNGWMWMJC=0.6                
 

 

                          TNWMWMJC=(TNSellPrice1-TNBuyPrice1)/TNBuyPrice1*100       // TNWMWMJC<0.6
                          TNWMWMJC=FormatNumber(TNWMWMJC,3,-1)
                          
                          
                          
                           IF TNWMWMJC>TNGWMWMJC  THEN          

                                   \'\'\'\'输出

                           END IF

 

 

结果:

1、    如果对TNWMWMJC用FormatNumber格式一下,则无论TNWMWMJC数值多小(小于0.6),均条件为真。(这是错误的,BUG)

 

2、    如果对TNGWMWMJC(就是0.6)用FormatNumber格式一下,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)

 

3、 如果对TNGWMWMJC、TNWMWMJC均不用FormatNumber格式,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)

 

 

哪位大师剖析一下。FormatNumber 

 

 

 

 

 

[此贴子已经被作者于2013-5-13 20:25:55编辑过]

--  作者:guotx2010
--  发布时间:2013/5/14 9:40:11
--  
使用cdbl进行数值转换,就不会有问题了