标题：[注意]股指连续用NUMTOSTR(close,4)有问题

1楼

readonly 发表于：2013/4/29 13:05:50

转出来的数值错误，例如2255.1 会变成 2255.1001，总之大部分数值都会加或减一点点。

请修正这个错误，谢谢！

2楼

RogarZ 发表于：2013/4/29 16:59:24

这个是浮点运算造成的。改不了~你精度低点就完啦~

3楼

王锋发表于：2013/4/29 17:52:47

论坛搜索浮点误差

4楼

klc 发表于：2013/4/29 23:10:07

不是应该NUMTOSTR(close,2)吗？

5楼

readonly 发表于：2013/4/30 22:05:51

以下是引用klc在2013-4-29 23:10:07的发言：
不是应该NUMTOSTR(close,2)吗？

我想让模型同时测试股指和外汇。

6楼

readonly 发表于：2013/4/30 22:11:41

以下是引用王锋在2013-4-29 17:52:47的发言：
论坛搜索浮点误差

搜索到了，谢谢。

不过我觉得金字塔应该可以修改的。既然是小数点后才会算错，当我需要4位时，就先把数值乘与10000，转换完字符串后再在字符串里插入个小数点。

共6 条记录, 每页显示 10 条, 页签: [1]