标题：公式里有个数据变量已经取整了

1楼

qq代人发帖 发表于：2015/7/23 17:04:18

公式里有个数据变量已经取整了，然后用 ExtgbDataSet 输出到全局变量数据管理里面却出现了长长的一串小数，这是什么问题引起的呢，要怎么解决？

2楼

jinzhe 发表于：2015/7/23 17:09:45

请把碰到的问题详细的说明一下，用实际碰到的问题讲一下

3楼

xhq0212 发表于：2015/7/23 17:40:50

品种：AU00

变量：DZY:=INTPART(AAAA/MinM)*MinM;

在图表输出数据，看到的是 266.7

用这个语句，ExtgbDataSet(STKLABEL&'-D1_DP['&NUMTOSTR(II,0)&']',DZY) 把值读到全局变量数据管理里面

全局变量数据管理里看到的是 266.699999

4楼

jinzhe 发表于：2015/7/24 8:33:45

这个是计算机浮点数计算的误差，实际计算起来没有区别的

共4 条记录, 每页显示 10 条, 页签: [1]