欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件金字塔软件问题提交 → 怎么解决金字塔的误差的问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有1834人关注过本帖树形打印复制链接

主题:怎么解决金字塔的误差的问题

帅哥哟,离线,有人找我吗?
zzxc75
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:5 积分:0 威望:0 精华:0 注册:2014/3/12 14:04:13
怎么解决金字塔的误差的问题  发帖心情 Post By:2014/3/12 14:13:28 [只看该作者]

2个问题
1、两个浮点数在比较大小的时候,如果图上显示是相等,实际结果不相等,是怎么处理的?
2、如果保留小数点2位,到底是怎么四舍五入的

浮点型数据比较大小,是计算机这个东西几十年前设计的时候 的固有问题,原理就是浮点型本身就是不精确的,会在小数点后面很多位出现误差,就是double型比较的时候,存在小数点多位后的误差,才会出问题,这个原理我很清楚,现在是要知道金字塔是怎么处理这个问题 ,

if x > y then
  sellshort(……);
end
图上显示x和y都是0.01,但实际还是平空了,请问是底层没有处理浮点型小数点后多位误差吗?数据指标在计算中肯定是浮点数我在金字塔里用ROUNDS(x,2)来限制了保留小数点后2位,金字塔到底是怎么四舍五入的,怎么感觉不是从第3位开始四舍五入的?


 回到顶部
帅哥哟,离线,有人找我吗?
王锋
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:罗宾汉 帖子:11808 积分:20695 威望:0 精华:10 注册:2009/8/18 8:15:13
  发帖心情 Post By:2014/3/12 14:16:43 [只看该作者]

四舍五入整理小数到指定位数

用法:ROUNDS(A,B) 表示整理数字A的小数点位数到B。该函数可用以做浮点数的精确相等判断。
例如:ROUNDS(12.345,2)将返回 12.35
所属函数组:数学函数

 

你可以自己没事写几句话测试一下不就知道了



金字塔—专业程序化软件提供商

金字塔-技术部

-----------------------------------------------------------------------------------------------------

工作时间:周一至周五 08:30 - 17:30   周末及法定节假日休息

Email:service@weistock.com
 回到顶部
帅哥哟,离线,有人找我吗?
zzxc75
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:5 积分:0 威望:0 精华:0 注册:2014/3/12 14:04:13
  发帖心情 Post By:2014/3/12 14:24:37 [只看该作者]

我在金字塔里用ROUNDS(x,2)来限制了保留小数点后2位,金字塔到底是怎么四舍五入的,怎么感觉不是从第3位开始四舍五入的?

 回到顶部
帅哥哟,离线,有人找我吗?
王锋
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:罗宾汉 帖子:11808 积分:20695 威望:0 精华:10 注册:2009/8/18 8:15:13
  发帖心情 Post By:2014/3/12 14:31:08 [只看该作者]

不明白你的描述,你为什么觉得金字塔不是从第三位开始四舍五入的?


金字塔—专业程序化软件提供商

金字塔-技术部

-----------------------------------------------------------------------------------------------------

工作时间:周一至周五 08:30 - 17:30   周末及法定节假日休息

Email:service@weistock.com
 回到顶部