欢迎使用金字塔普通技术服务论坛，您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴，普通区问题处理速度慢，请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商 → 金字塔软件 → 金字塔软件问题提交 → 请教金字塔图表程序化的小数的精度问题

   

欢迎使用金字塔普通技术服务论坛，您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴，普通区问题处理速度慢，请耐心等待。谢谢您对我们的支持与理解。    

  共有1566人关注过本帖树形打印复制链接

主题：请教金字塔图表程序化的小数的精度问题
帅哥哟，离线，有人找我吗？
王鹏
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：新手上路 帖子：91 积分：0 威望：0 精华：0 注册：2015/1/14 13:26:09 		请教金字塔图表程序化的小数的精度问题  发帖心情 Post By：2018/11/16 15:22:35 [只看该作者]

请问 ,金字塔 图表程序化的策略里的小数点的精度是多少啊，我目前觉得是小数点后6位。

 金字塔版本是4.81 64位   系统win10  

 


图片点击可在新窗口打开查看此主题相关图片如下：snipaste_2018-11-16_15-17-14.png
图片点击可在新窗口打开查看

代码如下：

ab:0.000001,noaxis;
cd:`0.0000011,noaxis;
diff1:cd-ab,noaxis;
msgout(1,'ab: '&NUMTOSTR(ab,10) & '  cd: '&NUMTOSTR(cd,10)  & '   diff1: ' &NUMTOSTR(diff1,10) );

 

我想确认一下是不是六位啊？
 回到顶部
帅哥哟，离线，有人找我吗？
FireScript
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：14496 积分：0 威望：0 精华：0 注册：2017/7/4 13:40:18 		  发帖心情 Post By：2018/11/16 15:32:39 [只看该作者]

 对的。只到6位。


命数如织，当如磐石。
 回到顶部
帅哥哟，离线，有人找我吗？
banzhuan
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：16558 积分：0 威望：0 精华：0 注册：2017/6/1 10:24:09 		  发帖心情 Post By：2018/11/16 15:33:28 [只看该作者]

小数位最多支持6位

 回到顶部
帅哥哟，离线，有人找我吗？
无为剑
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：管理员 帖子：2437 积分：0 威望：0 精华：0 注册：2016/3/5 22:53:41 		  发帖心情 Post By：2018/11/16 18:57:24 [只看该作者]

显示输出有限制，最多6位输出，实际在内部计算时最大小数位是128位的

 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版    Powered By weistock 2012
页面执行时间 0.09375 秒, 5 次数据查询