以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  公式模型编写问题提交  (http://weistock.com/bbs/list.asp?boardid=4)
----  公式里有个数据变量已经取整了  (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=81582)

--  作者:qq代人发帖
--  发布时间:2015/7/23 17:04:18
--  公式里有个数据变量已经取整了
公式里有个数据变量已经取整了,然后用 ExtgbDataSet 输出到全局变量数据管理里面却出现了长长的一串小数,这是什么问题引起的呢,要怎么解决?

--  作者:jinzhe
--  发布时间:2015/7/23 17:09:45
--  
请把碰到的问题详细的说明一下,用实际碰到的问题讲一下
--  作者:xhq0212
--  发布时间:2015/7/23 17:40:50
--  
品种:AU00
变量:DZY:=INTPART(AAAA/MinM)*MinM;
在图表输出数据,看到的是 266.7
用这个语句,ExtgbDataSet(STKLABEL&\'-D1_DP[\'&NUMTOSTR(II,0)&\']\',DZY)  把值读到 全局变量数据管理 里面
全局变量数据管理里看到的是 266.699999

--  作者:jinzhe
--  发布时间:2015/7/24 8:33:45
--  
这个是计算机浮点数计算的误差,实际计算起来没有区别的