1.场景:
数据要sum()求和,字段值有小数,当进行计算时,进行了四舍五入,导致计算错误。

1.1.模拟线上sql:期望值是1.5,但是结果为2,由此引发了问题

select sum(CAST(1.5 as DECIMAL)); //结果:2

1.2.扩展sql:

select CAST(1.5 as DECIMAL);			//结果:2
select CAST(1.5 as DECIMAL(18, 2));		//结果:1.5

2.知识:

DECIMAL精度和小数位数的默认值分别是18与0。如果在decimal类型中不提供这两个值,那么默认四舍五入。

select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.4 as DECIMAL); //结果:1

DECIMAL(18,2),精度和小数位数的设置是18和2。 如果超过了2位小数,则将超过的部分进行四舍五入,最后保留2位小数

select CAST(1.545 as DECIMAL(18, 2)); //结果:1.55
select CAST(1.452 as DECIMAL(18, 2)); //结果:1.45

线上报出的统计计算问题,当时还很肯定没有错,经过验证发现确实是自己的Bug,特此记录一下。