SSAS 中度量值精度问题如何解决
0
ssas中 度量值一般都是采用的 double 双精度数据类型.
但是此类型的计算,总会遇到计算结果只是无限接近实际结果的情况,该如何解决.
比如最近就遇到:
-1.57 -1.78
-0.03 -0.02
1.27 1.58
0.03 0.02
0.3 0.2
这两组值, sum聚合出来的结果与实际结果0,不一致,是个很小的科学计数表达的值.
这种问题该如何解决?
但是此类型的计算,总会遇到计算结果只是无限接近实际结果的情况,该如何解决.
比如最近就遇到:
-1.57 -1.78
-0.03 -0.02
1.27 1.58
0.03 0.02
0.3 0.2
这两组值, sum聚合出来的结果与实际结果0,不一致,是个很小的科学计数表达的值.
这种问题该如何解决?
没有找到相关结果
重要提示：提问者不能发表回复，可以通过评论与回答者沟通，沟通后可以通过编辑功能完善问题描述，以便后续其他人能够更容易理解问题.
1 个回复
天桥下的郑成功 - Hadoop大数据开发工程师、数仓架构师、熟悉数据仓库设计、Hadoop、Spark、HBase、Hive、SSIS等开发 2015-09-08 回答
赞同来自:
http://www.flybi.net/question/12021