| 以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 公式模型编写问题提交 (http://weistock.com/bbs/list.asp?boardid=4) ---- 关于金字塔软件的数据计算精度调整 (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=7541) |
| -- 作者：mathxg2010 -- 发布时间：2011/8/15 15:51:11 -- 关于金字塔软件的数据计算精度调整 编程中，会发现： 金字塔的数据计算精度很差，最为关键的就是：在计算一个量纲为10的-6甚至-8的数据时，它直接报0，那么应该如何实现其精度的调整，从而使得计算能够继续下去？ |
| -- 作者：fly -- 发布时间：2011/8/15 16:05:51 -- 不明白意思,可否再具体些 |
| -- 作者：mathxg2010 -- 发布时间：2011/8/15 16:15:34 -- 例如：
x:=y/z;
这里，y差不多只在1左右，但是z却可以在100000，那么算下来，正确的x应该是10e-5左右，但是金字塔软件直接是：x=0。那么接下来的程序就无法继续计算下去了。因此是否有什么方法可以提高x的计算精度，譬如可以计算到10e-10左右的数据？ |
| -- 作者：mathxg2010 -- 发布时间：2011/8/15 16:18:12 -- 这就类似于： c语言里面的float 和double的区别，double的计算精度比float要高出许多，因此在计算较小的数据时，double比float要稳定。 |
| -- 作者：admin -- 发布时间：2011/8/15 17:05:16 -- 楼主的表达能力有待提高 |
| -- 作者：王锋 -- 发布时间：2011/8/15 18:12:30 -- 金字塔公式系统浮点数均为double双精度计算，你的问题是出在显示的小数位数上，
例如: [此贴子已经被作者于2011-8-15 18:14:13编辑过]
|