标题：[讨论]金字塔函数问题

1楼

kuge 发表于：2014/10/18 19:35:59

请问金字塔的老师，今天在调试程序时，发现程序变量运算结果和计算器运算结果不一致，逐步查找原因发现

下面的情况，a和b的值本来应该是完全一样的，但当我放大值显示在图表上，两者却有差别，不知道这是什么原因？

x:=price[18]; //price数组中price[18]=2189.2

y:=price[13]; //price数组中price[13]=2211

a:=(sqrt(x)-sqrt(y))*10000000000;

a值:a,colorgray,linethick0;

b:=(sqrt(2189.2)-sqrt(2211))*10000000000;

b值:b,colorgray,linethick0;

此主题相关图片如下：捕获.jpg

2楼

jinzhe 发表于：2014/10/20 9:45:15

把你前面的定义price代码也一起贴了

3楼

kuge 发表于：2014/10/20 11:12:33

price:=close; //我用的是分笔周期静态测试的

谢谢老师

4楼

jinzhe 发表于：2014/10/20 11:19:32

计算机自带的浮点数计算问题，不要管这个了

共4 条记录, 每页显示 10 条, 页签: [1]