关于数据大小问题

clks · 发表于 2022-11-29 15:38

我在自定义数据里面创建一个单值数据，不引用指标。
我在单个自定义数据列表里面的一项输入0.00000001，然后保存。读出的时候数据变0了，不知道是不是底层的数据类型没有设置长整型。自定义数据里能不能设置可以储存超过10位小数的类型变量。

技术010 · 发表于 2022-11-29 15:43

是的，是和底层数据类型有关系的，最大不能超过6位小数，这个也无法设置。

clks · 发表于 2022-11-29 15:45

把数据类型调成“单值字符串”不知道行不行？

技术010 · 发表于 2022-11-29 15:51

本帖最后由技术010 于 2022-11-29 15:53 编辑

那获取的就是字符串格式的了，那是可以有10位小数的，后续的处理要按照字符串格式来处理这个了，软件中很多地方对数值类型的长度都是有限制的。

clks · 发表于 2022-11-29 15:54

我就是用作数值处理的，不知道能不能处理，还没试呢

技术010 · 发表于 2022-11-29 15:58

那具体要看后续怎么处理了啊，字符串类型是按字符长度来算的，是可以突破10位，至于后面如何转成数值类型来使用，要看代码的处理了，无法直接转成一个10位数值类型的。

clks · 发表于 2022-11-29 16:18

我直接用单值字符串，然后再其他自定义数据里面引用，计算，计算后的数值全乱了，不知道有什么办法解决

clks · 发表于 2022-11-29 16:18

就是普通的加减乘除

技术010 · 发表于 2022-11-29 16:21

超长度的字符串转成数字类型，是不太好处理的，因为数值类型是有长度的，可以尝试对字符串切分，再换算处理。

clks · 发表于 2022-11-29 16:27

引用到后台里面然后要怎么处理？比如我在自定义里面是12.0000，我要在后台里面如何转换才能使12.0000这个字符窜类型可以参与计算？

		自动登录	找回密码
密码