以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://weistock.com/bbs/index.asp)
--  公式模型编写问题提交  (http://weistock.com/bbs/list.asp?boardid=4)
----  小数点处理的几个问题  (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=62600)

--  作者:大灰狼
--  发布时间:2014/3/12 13:43:24
--  小数点处理的几个问题
其实是2个问题
1、两个浮点数在比较大小的时候,如果图上显示是相等,实际结果不相等,是怎么处理的?
2、如果保留小数点2位,到底是怎么四舍五入的

--  作者:jinzhe
--  发布时间:2014/3/12 13:48:41
--  
工具 选项 常规,在这里设置小数位
图片点击可在新窗口打开查看此主题相关图片如下:1.png
图片点击可在新窗口打开查看

--  作者:王锋
--  发布时间:2014/3/12 14:05:39
--  
 使用 ROUNDS( , ) 函数将浮点数整理成统一小数点的浮点数,然后再进行比较即可。
--  作者:zzxc75
--  发布时间:2014/3/12 14:14:34
--  
我在金字塔里用ROUNDS(x,2)来限制了保留小数点后2位,金字塔到底是怎么四舍五入的,怎么感觉不是从第3位开始四舍五入的?

--  作者:王锋
--  发布时间:2014/3/12 14:22:52
--  

你帖子发好几个地方了,请在这里讨论

http://www.weistock.com/bbs/dispbbs.asp?boardid=2&Id=62605


--  作者:jinzhe
--  发布时间:2014/3/12 14:22:52
--  
能举个例子说明一下你的感觉吗?
--  作者:zzxc75
--  发布时间:2014/3/12 14:38:43
--  
cpxk:ROUNDS(x,2);图上显示2074.2
我用C++这样写:
x=floor(x * 100.000f + 0.5)/100.000f;
结果是2074.21

--  作者:jinzhe
--  发布时间:2014/3/12 14:40:10
--  
C++的问题请发往高级功能区
--  作者:王锋
--  发布时间:2014/3/12 14:43:14
--  

你的X的值是多少?我们手工计算看看