欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 关于金字塔软件的数据计算精度调整

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有5887人关注过本帖树形打印复制链接

主题:关于金字塔软件的数据计算精度调整

帅哥哟,离线,有人找我吗?
mathxg2010
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
关于金字塔软件的数据计算精度调整  发帖心情 Post By:2011/8/15 15:51:11    Post IP:222.66.0.154[显示全部帖子]

编程中,会发现:

金字塔的数据计算精度很差,最为关键的就是:在计算一个量纲为10的-6甚至-8的数据时,它直接报0,那么应该如何实现其精度的调整,从而使得计算能够继续下去?


 回到顶部
帅哥哟,离线,有人找我吗?
mathxg2010
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
  发帖心情 Post By:2011/8/15 16:15:34    Post IP:222.66.0.154[显示全部帖子]

例如:

 

x:=y/z;

 

这里,y差不多只在1左右,但是z却可以在100000,那么算下来,正确的x应该是10e-5左右,但是金字塔软件直接是:x=0。那么接下来的程序就无法继续计算下去了。因此是否有什么方法可以提高x的计算精度,譬如可以计算到10e-10左右的数据?


 回到顶部
帅哥哟,离线,有人找我吗?
mathxg2010
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
  发帖心情 Post By:2011/8/15 16:18:12    Post IP:222.66.0.154[显示全部帖子]

这就类似于:

c语言里面的float 和double的区别,double的计算精度比float要高出许多,因此在计算较小的数据时,double比float要稳定。


 回到顶部