欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件金字塔软件问题提交 → [求助]

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2875人关注过本帖树形打印复制链接

主题:[求助]

帅哥哟,离线,有人找我吗?
kuge
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游民 帖子:110 积分:0 威望:0 精华:0 注册:2014/9/9 10:41:08
[求助]  发帖心情 Post By:2014/10/19 21:35:48 [只看该作者]

 请问金字塔的老师,今天在调试程序时,发现程序变量运算结果和计算器运算结果不一致,逐步查找原因发现
下面的情况,a和b的值本来应该是完全一样的,但当我放大值显示在图表上,两者却有差别,不知道这是什么原因?

  x:=price[18]; //price数组中price[18]=2189.2
  y:=price[13]; //price数组中price[13]=2211

a:=(sqrt(x)-sqrt(y))*10000000000;
a值:a,colorgray,linethick0;
b:=(sqrt(2189.2)-sqrt(2211))*10000000000;
b值:b,colorgray,linethick0;


图片点击可在新窗口打开查看此主题相关图片如下:捕获.jpg
图片点击可在新窗口打开查看

 回到顶部
帅哥哟,离线,有人找我吗?
yukizzc
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:21598 积分:0 威望:0 精华:1 注册:2010/7/31 16:35:30
  发帖心情 Post By:2014/10/19 21:51:45 [只看该作者]

x和y是不是多位小数?工具-选项-默认小数位,你这里设小了会把后面的小数点滤去。


 回到顶部
帅哥哟,离线,有人找我吗?
kuge
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:论坛游民 帖子:110 积分:0 威望:0 精华:0 注册:2014/9/9 10:41:08
  发帖心情 Post By:2014/10/20 11:17:51 [只看该作者]

默认小数是3位,我计算了一下,要达到这个误差点,价格之间相差0.0001数量级,肯定不是因为价格问题,理解不了,希望高手指点

 回到顶部
帅哥哟,离线,有人找我吗?
FexTel
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:5960 积分:0 威望:0 精华:2 注册:2014/6/12 11:29:04
  发帖心情 Post By:2014/10/20 11:23:09 [只看该作者]

输出下X,Y的值,另外想PRIC数组是怎么定义的。是不是囊括小数点位过多,显示在图上看看
[此贴子已经被作者于2014/10/20 11:24:51编辑过]


金字塔—专业程序化交易量化投资平台

产品部

-----------------------------------------------------------

欢迎您参加我公司的技术培训,具体培训需求请发邮件到service@weistock.com

您的宝贵建议或者投诉,请发往邮箱:weiwei@weistock.com
 回到顶部
帅哥哟,离线,有人找我吗?
yukizzc
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:21598 积分:0 威望:0 精华:1 注册:2010/7/31 16:35:30
  发帖心情 Post By:2014/10/20 11:25:50 [只看该作者]

price数组中price[18]=2189.2
price数组中price[13]=2211               //这两个数值你怎么判断的?把小数位设大点,然后输出这两个值看下是多少

 回到顶部