以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  公式模型编写问题提交  (http://weistock.com/bbs/list.asp?boardid=4)
----  [讨论]金字塔函数问题  (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=71120)

--  作者:kuge
--  发布时间:2014/10/18 19:35:59
--  [讨论]金字塔函数问题
 请问金字塔的老师,今天在调试程序时,发现程序变量运算结果和计算器运算结果不一致,逐步查找原因发现
下面的情况,a和b的值本来应该是完全一样的,但当我放大值显示在图表上,两者却有差别,不知道这是什么原因?

  x:=price[18]; //price数组中price[18]=2189.2
  y:=price[13]; //price数组中price[13]=2211

a:=(sqrt(x)-sqrt(y))*10000000000;
a值:a,colorgray,linethick0;
b:=(sqrt(2189.2)-sqrt(2211))*10000000000;
b值:b,colorgray,linethick0;


图片点击可在新窗口打开查看此主题相关图片如下:捕获.jpg
图片点击可在新窗口打开查看




--  作者:jinzhe
--  发布时间:2014/10/20 9:45:15
--  
把你前面的定义price代码也一起贴了
--  作者:kuge
--  发布时间:2014/10/20 11:12:33
--  
  price:=close;  //我用的是分笔周期静态测试的
  谢谢老师

--  作者:jinzhe
--  发布时间:2014/10/20 11:19:32
--  

计算机自带的浮点数计算问题,不要管这个了