共9 条记录, 每页显示 10 条, 页签:
[1]
[浏览完整版]
标题：小数点处理的几个问题
1楼
大灰狼 发表于：2014/3/12 13:43:24其实是2个问题
1、两个浮点数在比较大小的时候，如果图上显示是相等，实际结果不相等，是怎么处理的？
2、如果保留小数点2位，到底是怎么四舍五入的
2楼
jinzhe 发表于：2014/3/12 13:48:41工具 选项 常规，在这里设置小数位
此主题相关图片如下：1.png
此主题相关图片如下：1.png3楼
王锋 发表于：2014/3/12 14:05:39 使用 ROUNDS( , ) 函数将浮点数整理成统一小数点的浮点数，然后再进行比较即可。
4楼
zzxc75 发表于：2014/3/12 14:14:34我在金字塔里用ROUNDS（x,2）来限制了保留小数点后2位，金字塔到底是怎么四舍五入的，怎么感觉不是从第3位开始四舍五入的？
5楼
王锋 发表于：2014/3/12 14:22:52你帖子发好几个地方了，请在这里讨论
6楼
jinzhe 发表于：2014/3/12 14:22:52能举个例子说明一下你的感觉吗？
7楼
zzxc75 发表于：2014/3/12 14:38:43cpxk:ROUNDS(x,2);图上显示2074.2
我用C++这样写：
x=floor(x * 100.000f + 0.5)/100.000f;
结果是2074.21
我用C++这样写：
x=floor(x * 100.000f + 0.5)/100.000f;
结果是2074.21
8楼
jinzhe 发表于：2014/3/12 14:40:10C++的问题请发往高级功能区
9楼
王锋 发表于：2014/3/12 14:43:14你的X的值是多少?我们手工计算看看
共9 条记录, 每页显示 10 条, 页签:
[1]