欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 公式计算精度的问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2068人关注过本帖平板打印复制链接

主题:公式计算精度的问题

帅哥哟,离线,有人找我吗?
phisherlong
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游侠 帖子:164 积分:30 威望:0 精华:0 注册:2013/5/29 9:52:16
  发帖心情 Post By:2016/11/9 15:39:07    Post IP:115.193.227.184[只看该作者]

假如式中13413.5和13825分别代表ru00的价格变化,按上面公式进行比较,结果都是0.012,是比较不出两者大小的
但变化了411.5,这个值已经不小了
四舍五入保留了3位小数的精度,不能满足使用要求

 回到顶部