主题：一个让人困惑的公式bug

a:IFN(open-low<=1*MINDIFF,0,1);

这个可能是数型的问题，我不知道现在的编程语言是怎么样的，我记得以前用“Fortran”写程序时，只有“整型”数才可以用“=”进行判断，而实型数是不可以的。而实型数的相等判断一般是用abs(a-b)<....来判断。

ROUNDS(dd,2);对open-l进行小数点为精确,实际返回值的时候涉及浮点误差,有小数点位影响

哦，感谢回复。

 

继续请教，是不是a股的数据，其实并不是2位小数，而实际是小数点后三位？

计算机对浮点数的计算可能会存在小数点上的误差，你要精确判断的话用3楼的那个函数自己限制掉位数。