欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 关于金字塔软件的数据计算精度调整

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有5888人关注过本帖平板打印复制链接

主题:关于金字塔软件的数据计算精度调整

帅哥哟,离线,有人找我吗?
mathxg2010
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
关于金字塔软件的数据计算精度调整  发帖心情 Post By:2011/8/15 15:51:11    Post IP:222.66.0.154[只看该作者]

编程中,会发现:

金字塔的数据计算精度很差,最为关键的就是:在计算一个量纲为10的-6甚至-8的数据时,它直接报0,那么应该如何实现其精度的调整,从而使得计算能够继续下去?


 回到顶部