标题：公式计算精度的问题

1楼

phisherlong 发表于：2016/11/9 15:36:19

使用金字塔求

ln(13413.5/(13413.5-160))和

ln(13825/(13825-160))

结果都是0.012

即金字塔四舍五入保留了3位小数

实际上

ln(13413.5/(13413.5-160))=0.01199999

ln(13825/(13825-160))=0.01164073

结果是有差异的

请教如何让金字塔公式计算的精度增加，即小数点后保留的位数更多呢？

2楼

phisherlong 发表于：2016/11/9 15:39:07

假如式中13413.5和13825分别代表ru00的价格变化，按上面公式进行比较，结果都是0.012，是比较不出两者大小的

但变化了411.5，这个值已经不小了

按四舍五入保留了3位小数的精度，不能满足使用要求

3楼

jinzhe 发表于：2016/11/9 15:55:33

工具选项常规，把默认小数位调大
图片点击可在新窗口打开查看

此主题相关图片如下：2.png

[此贴子已经被作者于2016-11-9 15:55:43编辑过]

4楼

phisherlong 发表于：2016/11/9 16:11:59

谢了

共4 条记录, 每页显示 10 条, 页签: [1]