TM 怎样控制度量的精度
0
TM制作CUBE，Measures 的数据精度是要怎么调整？
以前google+脑补了一下，Output scale 是控制小数点的位置（相当于乘10 的N次方），Precision 是控制小数点的位数。
一般情况我用的都是个位精确到小数点2位，Output scale取0 ，Precision 取2，然后再调一下Format，一般显示都是正常的。
但是这次我必须Output scale取2 ，Precision 取2 才能正常显示数据，Output scale取0 数据就被放大了100倍。
问一下Output scale 与 Precision 的意义是该怎样理解？
以前google+脑补了一下，Output scale 是控制小数点的位置（相当于乘10 的N次方），Precision 是控制小数点的位数。
一般情况我用的都是个位精确到小数点2位，Output scale取0 ，Precision 取2，然后再调一下Format，一般显示都是正常的。
但是这次我必须Output scale取2 ，Precision 取2 才能正常显示数据，Output scale取0 数据就被放大了100倍。
问一下Output scale 与 Precision 的意义是该怎样理解？
没有找到相关结果
重要提示：提问者不能发表回复，可以通过评论与回答者沟通，沟通后可以通过编辑功能完善问题描述，以便后续其他人能够更容易理解问题.
1 个回复
H_Elsker - 修地球工程师,cognos,Hadoop 2015-09-14 回答
赞同来自: 梁勇
Precision 小数点向右移动位数
根据你 后台结果表的精度来设置。这个你自己多测试几次，就会理解他的含义了