以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 公式模型编写问题提交 (http://weistock.com/bbs/list.asp?boardid=4) ---- 公式里有个数据变量已经取整了 (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=81582) |
-- 作者:qq代人发帖 -- 发布时间:2015/7/23 17:04:18 -- 公式里有个数据变量已经取整了 公式里有个数据变量已经取整了,然后用 ExtgbDataSet 输出到全局变量数据管理里面却出现了长长的一串小数,这是什么问题引起的呢,要怎么解决? |
-- 作者:jinzhe -- 发布时间:2015/7/23 17:09:45 -- 请把碰到的问题详细的说明一下,用实际碰到的问题讲一下 |
-- 作者:xhq0212 -- 发布时间:2015/7/23 17:40:50 -- 品种:AU00 变量:DZY:=INTPART(AAAA/MinM)*MinM;在图表输出数据,看到的是 266.7 用这个语句,ExtgbDataSet(STKLABEL&\'-D1_DP[\'&NUMTOSTR(II,0)&\']\',DZY) 把值读到 全局变量数据管理 里面 全局变量数据管理里看到的是 266.699999
|
-- 作者:jinzhe -- 发布时间:2015/7/24 8:33:45 -- 这个是计算机浮点数计算的误差,实际计算起来没有区别的 |