欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件金字塔软件问题提交 → 金字塔在有小数的计算方面有问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有5338人关注过本帖平板打印复制链接

主题:金字塔在有小数的计算方面有问题

帅哥哟,离线,有人找我吗?
王锋
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:罗宾汉 帖子:11808 积分:20695 威望:0 精华:10 注册:2009/8/18 8:15:13
  发帖心情 Post By:2012/8/9 13:29:12 [只看该作者]

这不是金字塔的问题,你说的问题是目前计算机普遍存在的浮点计算误差,如果你需要一个精确的数字,应该使用金字塔提供的小数点整理函数,计算完毕后使用该函数进行整理

参考

四舍五入整理小数到指定位数
用法:ROUNDS(A,B) 表示整理数字A的小数点位数到B。该函数可用以做浮点数的精确相等判断。
例如:ROUNDS(12.345,2)将返回 12.35
所属函数组:数学函数



金字塔—专业程序化软件提供商

金字塔-技术部

-----------------------------------------------------------------------------------------------------

工作时间:周一至周五 08:30 - 17:30   周末及法定节假日休息

Email:service@weistock.com
 回到顶部