精度、小数位数和长度

精度是数字中的数字个数。小数位数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,小数位数是 2。

在 SQL Server 中,numeric 和 decimal 数据类型的默认最大精度为 38。在 SQL Server 早期版本中,默认最大精度为 28。

数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度是字符个数。binary、varbinary和 image 数据类型的长度是字节数。例如,int 数据类型可以有 10 位数,用 4 个字节存储,不接受小数点。int 数据类型的精度是 10,长度是 4,小数位数是 0。

当两个 char、varchar、binary 或 varbinary 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是8,000 字符,以二者中少者计。

当两个 nchar 或 nvarchar 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是 4,000 字符,以二者中少者计。

使用 UNION、EXCEPT 或 INTERSECT 对数据类型相同但长度不同的两个表达式进行比较时,得到的长度为两个表达式中较大的长度。

除了 decimal 类型之外,数字数据类型的精度和小数位数是固定的。如果算术运算符有两个相同类型的表达式,结果就为该数据类型,并且具有对此类型定义的精度和小数位数。如果运算符有两个不同数字数据类型的表达式,则由数据类型优先级决定结果的数据类型。结果具有为该数据类型定义的精度和小数位数。

下表定义了当运算结果是 decimal 类型时,如何计算结果的精度和小数位数。当下列任一条件成立时,结果为decimal:

·         两个表达式都是 decimal 类型。

·         一个表达式是 decimal 类型,而另一个是比 decimal 优先级低的数据类型。

操作数表达式由表达式 e1(精度为 p1,小数位数为 s1)和表达式 e2(精度为 p2,小数位数为 s2)来表示。非decimal 类型的任何表达式的精度和小数位数,是对此表达式数据类型定义的精度和小数位数。

sql server 小数位数 sqlserver 小数位数的长度_数位


SQLServer精度数据(decimal和numeric)在算术运算时的自动转换规则

 假定运算数分别为@d1(精度为p1,小数位数为s1),@d2(精度为p2,小数位数为s2), 则SQL内部的转换规则如下(我们知道精度的最大值是38,当运算结果的精度大于38时,SQL将会截短小数部分,以保证整数部分不会被截断。):

1.      @d1+@d2

运算结果的精度 =max(s1,s2)+max(p1-s1,p2-s2)+1 --注:当值大于38时,取38

运算结果的小数位数

l        当精度值不大于38时 = max(s1,s2)--也就是取小数位数较大者

l        当精度值大于38时 = 38 -max(p1-s1,p2-s2)

2.      @d1-@d2 (与相加完全相同,略)

3.      @d1*@d2

运算结果的精度 =p1 + p2 + 1  --注:当值大于38时,取38

运算结果的小数位数

l        当精度值不大于38(或s1+s2<=6)时 = s1 + s2 --也就是取两者小数位数之和

l        当精度值大于38时 =max(6, s1+s2-(p1+p2+1-38))

4.      @d1/@d2

运算结果的精度 =p1 - s1 + s2 + max(6, s1 + p2 + 1)  --注:当值大于38时,取38

运算结果的小数位数

l        当精度值不大于38时 =max(6, s1 + p2 + 1)

l        当精度值大于38时 =max(6, s1+p2+1-(精度-38))

5.      SUM(@d1)

运算结果的精度 =38 --也就是取最大精度

运算结果的小数位数:s1--也就是小数位数保持不变

6.      AVG(@d1)

计算结果 =SUM(@d1) / NUMERIC(10,0)

 参考文献

1)       精度、小数位数和长度 http://msdn.microsoft.com/zh-cn/library/ms190476(v=sql.110).aspx

2)       http://blog.sina.com.cn/s/blog_749e42850100sbdf.html

3)       http://connect.microsoft.com/SQLServer/feedback/details/125782/must-keep-the-max-precise#details