欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 公式计算精度的问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2067人关注过本帖平板打印复制链接

主题:公式计算精度的问题

帅哥哟,离线,有人找我吗?
phisherlong
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游侠 帖子:164 积分:30 威望:0 精华:0 注册:2013/5/29 9:52:16
公式计算精度的问题  发帖心情 Post By:2016/11/9 15:36:19    Post IP:115.193.227.184[只看该作者]

使用金字塔求
ln(13413.5/(13413.5-160))和
ln(13825/(13825-160))
结果都是0.012
即金字塔四舍五入保留了3位小数

实际上
ln(13413.5/(13413.5-160))=0.01199999
ln(13825/(13825-160))=0.01164073
结果是有差异的

请教如何让金字塔公式计算的精度增加,即小数点后保留的位数更多呢?



 回到顶部