以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://weistock.com/bbs/index.asp) -- 公式模型编写问题提交 (http://weistock.com/bbs/list.asp?boardid=4) ---- 小数点处理的几个问题 (http://weistock.com/bbs/dispbbs.asp?boardid=4&id=62600) |
-- 作者:大灰狼 -- 发布时间:2014/3/12 13:43:24 -- 小数点处理的几个问题 其实是2个问题 1、两个浮点数在比较大小的时候,如果图上显示是相等,实际结果不相等,是怎么处理的? 2、如果保留小数点2位,到底是怎么四舍五入的
|
-- 作者:jinzhe -- 发布时间:2014/3/12 13:48:41 -- 工具 选项 常规,在这里设置小数位 ![]() ![]() |
-- 作者:王锋 -- 发布时间:2014/3/12 14:05:39 -- 使用 ROUNDS( , ) 函数将浮点数整理成统一小数点的浮点数,然后再进行比较即可。 |
-- 作者:zzxc75 -- 发布时间:2014/3/12 14:14:34 -- 我在金字塔里用ROUNDS(x,2)来限制了保留小数点后2位,金字塔到底是怎么四舍五入的,怎么感觉不是从第3位开始四舍五入的? |
-- 作者:王锋 -- 发布时间:2014/3/12 14:22:52 -- 你帖子发好几个地方了,请在这里讨论 http://www.weistock.com/bbs/dispbbs.asp?boardid=2&Id=62605 |
-- 作者:jinzhe -- 发布时间:2014/3/12 14:22:52 -- 能举个例子说明一下你的感觉吗? |
-- 作者:zzxc75 -- 发布时间:2014/3/12 14:38:43 -- cpxk:ROUNDS(x,2);图上显示2074.2 我用C++这样写: x=floor(x * 100.000f + 0.5)/100.000f; 结果是2074.21 |
-- 作者:jinzhe -- 发布时间:2014/3/12 14:40:10 -- C++的问题请发往高级功能区 |
-- 作者:王锋 -- 发布时间:2014/3/12 14:43:14 -- 你的X的值是多少?我们手工计算看看 |