分笔数据的成交额问题

105287 · 发表于 2024-9-28 16:28

分笔数据的成交额是不是有问题，棕榈油的乘数是10，为啥成交额的尾数不是0？

资深技术05 · 发表于 2024-9-29 09:04

本帖最后由资深技术05 于 2024-9-29 09:07 编辑

计算机保存浮点数的精度有限，float可以保留十进制最多7位（二进制23位）有效数字。其误差相对整个数值的量级来说是非常小的，基本不会有什么影响。
这种不活跃的品种，数值较小就是正常的：

		自动登录	找回密码
密码