以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  金字塔软件问题提交  (http://weistock.com/bbs/list.asp?boardid=2)
----  请教金字塔图表程序化的小数的精度问题  (http://weistock.com/bbs/dispbbs.asp?boardid=2&id=166533)

--  作者:王鹏
--  发布时间:2018/11/16 15:22:35
--  请教金字塔图表程序化的小数的精度问题

请问 ,金字塔 图表程序化的策略里的小数点的精度是多少啊,我目前觉得是小数点后6位。

 金字塔版本是4.81 64位   系统win10  

 


图片点击可在新窗口打开查看此主题相关图片如下:snipaste_2018-11-16_15-17-14.png
图片点击可在新窗口打开查看

代码如下:

ab:0.000001,noaxis;
cd:`0.0000011,noaxis;
diff1:cd-ab,noaxis;
msgout(1,\'ab: \'&NUMTOSTR(ab,10) & \'  cd: \'&NUMTOSTR(cd,10)  & \'   diff1: \' &NUMTOSTR(diff1,10) );

 

我想确认一下是不是六位啊?


--  作者:FireScript
--  发布时间:2018/11/16 15:32:39
--  
 对的。只到6位。
--  作者:banzhuan
--  发布时间:2018/11/16 15:33:28
--  
小数位最多支持6位
--  作者:无为剑
--  发布时间:2018/11/16 18:57:24
--  
显示输出有限制,最多6位输出,实际在内部计算时最大小数位是128位的