sql sum 函数 统计计算值 不正确?相对于计算器计算的值少了一点点

why???

 

sum 计算的里保留 10位小数   :select  sum((1474.20/6.2188)

计算器保留 13位小数


是数据类型的问题~


sum中计算的结果字段  最开始我定义为 numeric(18,2)出现的问题 是比计算器的值少

然后改为 numeric(18,10)  保留10为小数, 这样得到的结果是和计算器计算的结果一样。


ok,,,,是小数点位数的问题,,数值一多 保留的位数对数值准确性有影响,,,最好计算的时候多保留几位小数,这样更加接近于正确值。


本文转载:CSDN博客