编程中,会发现:
金字塔的数据计算精度很差,最为关键的就是:在计算一个量纲为10的-6甚至-8的数据时,它直接报0,那么应该如何实现其精度的调整,从而使得计算能够继续下去?
例如:
x:=y/z;
这里,y差不多只在1左右,但是z却可以在100000,那么算下来,正确的x应该是10e-5左右,但是金字塔软件直接是:x=0。那么接下来的程序就无法继续计算下去了。因此是否有什么方法可以提高x的计算精度,譬如可以计算到10e-10左右的数据?
这就类似于:
c语言里面的float 和double的区别,double的计算精度比float要高出许多,因此在计算较小的数据时,double比float要稳定。
金字塔公式系统浮点数均为double双精度计算,你的问题是出在显示的小数位数上,
例如:
MA1: MA(C,10)/200,PRECISION5; //强制小数位保留5位显示