欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 关于EXTGBDATASET 小数点问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2515人关注过本帖树形打印复制链接

主题:关于EXTGBDATASET 小数点问题

帅哥哟,离线,有人找我吗?
LGP-AT
  1楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:98 积分:0 威望:0 精华:0 注册:2016/11/18 16:56:24
关于EXTGBDATASET 小数点问题  发帖心情 Post By:2020/7/22 13:33:35    Post IP:114.244.153.235[只看该作者]

EXTGBDATASET(STKLABEL+'_'+'T_PRICE',EXITPRICE);

上面这条语句,我把下单价格写入全局变量。但问题来了:但3289.2 被写成3289.199951,这是为什么?怎么控制小数点位数?

 回到顶部
帅哥哟,离线,有人找我吗?
FireScript
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:14496 积分:0 威望:0 精华:0 注册:2017/7/4 13:40:18
  发帖心情 Post By:2020/7/22 13:43:30    Post IP:58.246.57.26[只看该作者]

 3289.199951  这个才是原始的值。计算机内部处理数据都会存在一定浮点数的问题。你在软件系统界面看到的,都是有过合理范围内的四舍五入之后来显示的。


你可以自行用ROUNDS( , )整理下数值的小数位。


命数如织,当如磐石。
 回到顶部
帅哥哟,离线,有人找我吗?
LGP-AT
  3楼 | QQ | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:98 积分:0 威望:0 精华:0 注册:2016/11/18 16:56:24
  发帖心情 Post By:2020/7/22 14:29:04    Post IP:114.244.153.235[只看该作者]

那么是不是不处理也没关系???不处理还能节约计算机资源??

 回到顶部
帅哥哟,离线,有人找我吗?
FireScript
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:14496 积分:0 威望:0 精华:0 注册:2017/7/4 13:40:18
  发帖心情 Post By:2020/7/22 14:31:57    Post IP:58.246.57.26[只看该作者]

 没事的,这么点处理几乎没有任何影响。


命数如织,当如磐石。
 回到顶部