欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件金字塔软件问题提交 → [求助]

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2871人关注过本帖树形打印复制链接

主题:[求助]

帅哥哟,离线,有人找我吗?
kuge
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游民 帖子:110 积分:0 威望:0 精华:0 注册:2014/9/9 10:41:08
[求助]  发帖心情 Post By:2014/10/19 21:35:48 [显示全部帖子]

 请问金字塔的老师,今天在调试程序时,发现程序变量运算结果和计算器运算结果不一致,逐步查找原因发现
下面的情况,a和b的值本来应该是完全一样的,但当我放大值显示在图表上,两者却有差别,不知道这是什么原因?

  x:=price[18]; //price数组中price[18]=2189.2
  y:=price[13]; //price数组中price[13]=2211

a:=(sqrt(x)-sqrt(y))*10000000000;
a值:a,colorgray,linethick0;
b:=(sqrt(2189.2)-sqrt(2211))*10000000000;
b值:b,colorgray,linethick0;


图片点击可在新窗口打开查看此主题相关图片如下:捕获.jpg
图片点击可在新窗口打开查看

 回到顶部
帅哥哟,离线,有人找我吗?
kuge
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游民 帖子:110 积分:0 威望:0 精华:0 注册:2014/9/9 10:41:08
  发帖心情 Post By:2014/10/20 11:17:51 [显示全部帖子]

默认小数是3位,我计算了一下,要达到这个误差点,价格之间相差0.0001数量级,肯定不是因为价格问题,理解不了,希望高手指点

 回到顶部