计算精度问题

问题描述

报表中的浮点数加法运算结果有精度上的误差,如下图:

 

 

解决方案

采用双精度进行统计运算时会存在精读偏差,但改用数值型统计则没有问题。因此,用户可进行数值转码来做统计,即进行decimal数值转换即可

 

热门文章