- 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp)
-- 金字塔软件问题提交 (http://weistock.com/bbs/list.asp?boardid=2)
---- [求助] (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=71131)
-- 发布时间：2014/10/19 21:35:48
-- [求助]
请问金字塔的老师，今天在调试程序时，发现程序变量运算结果和计算器运算结果不一致，逐步查找原因发现
下面的情况，a和b的值本来应该是完全一样的，但当我放大值显示在图表上，两者却有差别，不知道这是什么原因？
x:=price[18]; //price数组中price[18]=2189.2
y:=price[13]; //price数组中price[13]=2211
a:=(sqrt(x)-sqrt(y))*10000000000;
a值:a,colorgray,linethick0;
b:=(sqrt(2189.2)-sqrt(2211))*10000000000;
b值:b,colorgray,linethick0;
此主题相关图片如下：捕获.jpg
-- 发布时间：2014/10/19 21:51:45
--
x和y是不是多位小数？工具-选项-默认小数位，你这里设小了会把后面的小数点滤去。
-- 发布时间：2014/10/20 11:17:51
--
默认小数是3位，我计算了一下，要达到这个误差点，价格之间相差0.0001数量级，肯定不是因为价格问题，理解不了，希望高手指点
-- 发布时间：2014/10/20 11:23:09
--
输出下X,Y的值,另外想PRIC数组是怎么定义的。是不是囊括小数点位过多,显示在图上看看
[此贴子已经被作者于2014/10/20 11:24:51编辑过]
-- 发布时间：2014/10/20 11:25:50
--
price数组中price[18]=2189.2
price数组中price[13]=2211 //这两个数值你怎么判断的？把小数位设大点，然后输出这两个值看下是多少