sql sum 函数 统计计算值 不正确?相对于计算器计算的值少了一点点
why???
sum 计算的里保留 10位小数 :select sum((1474.20/6.2188)
计算器保留 13位小数
是数据类型的问题~
sum中计算的结果字段 最开始我定义为 numeric(18,2)出现的问题 是比计算器的值少
然后改为 numeric(18,10) 保留10为小数, 这样得到的结果是和计算器计算的结果一样。
ok,,,,是小数点位数的问题,,数值一多 保留的位数对数值准确性有影响,,,最好计算的时候多保留几位小数,这样更加接近于正确值。