Rss & SiteMap

金字塔客服中心 - 专业程序化交易软件提供商 http://www.weistock.com/bbs/

专业程序化软件提供商
共6 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:关于金字塔软件的数据计算精度调整

1楼
mathxg2010 发表于:2011/8/15 15:51:11

编程中,会发现:

金字塔的数据计算精度很差,最为关键的就是:在计算一个量纲为10的-6甚至-8的数据时,它直接报0,那么应该如何实现其精度的调整,从而使得计算能够继续下去?

2楼
fly 发表于:2011/8/15 16:05:51
不明白意思,可否再具体些
3楼
mathxg2010 发表于:2011/8/15 16:15:34

例如:

 

x:=y/z;

 

这里,y差不多只在1左右,但是z却可以在100000,那么算下来,正确的x应该是10e-5左右,但是金字塔软件直接是:x=0。那么接下来的程序就无法继续计算下去了。因此是否有什么方法可以提高x的计算精度,譬如可以计算到10e-10左右的数据?

4楼
mathxg2010 发表于:2011/8/15 16:18:12

这就类似于:

c语言里面的float 和double的区别,double的计算精度比float要高出许多,因此在计算较小的数据时,double比float要稳定。

5楼
admin 发表于:2011/8/15 17:05:16
楼主的表达能力有待提高
6楼
王锋 发表于:2011/8/15 18:12:30

金字塔公式系统浮点数均为double双精度计算,你的问题是出在显示的小数位数上,

 

例如:
MA1: MA(C,10)/200,PRECISION5; //强制小数位保留5位显示

[此贴子已经被作者于2011-8-15 18:14:13编辑过]
共6 条记录, 每页显示 10 条, 页签: [1]


Powered By Dvbbs Version 8.3.0
Processed in 0.03125 s, 3 queries.