sqlserver数字格式化五位小数(详细分析sqlserver中的小数类型float和decimal)
sqlserver数字格式化五位小数
详细分析sqlserver中的小数类型float和decimal在SQL Server中实际上只有两种小数数值类型,分别是float(近似数值)和decimal(精确数值),这两种类型能表示所有的小数数值类型。
float(近似数值类型)
float表示的是近似数值,存在一定的精度缺失。
float(n)
这里的n是以科学计数法存储浮点数尾数的位数,因此此参数决定了精度和存储的大小。其是可选的,默认值是53,即float等价于float(53),占用8bytes。如果指定了n,则它必须是介于1至53之间的值。实际上,虽然n的取值范围定义是1至53,但实际上float只能表示float(53)和float(24)两种类型,分别占用8bytes和4bytes。
n的范围 | 精度 | 存储大小 |
1-24(都视为24) | 7位小数 | 4bytes |
25-53(都视为53) | 15位小数 | 8bytes |
使用近似数值要格外注意尽量避免相等比较,因为比如1可以被存储为1.000000056,也可以被存储为1.00000000672,进行相等比较会得到意料之外的结果。
decimal(精确数值类型)
decimal表示的是精确数值类型。不存在精度损失,别名是numeric。
decimal(p, s)
-- 等价于
numeric(p, s)
精确数值类型需要分别指定小数的最大位数(p)和小数位的数量(s):
- p(precision):指定小数的最大位数,小数点的左侧和右侧的数字的总数量不能超过p,p的取值范围是从1到38,默认值为18。
- s(scale):指定在小数点右侧的小数位数,p-s是小数点左边的最大位数。s必须是从0到p的值,只有在指定了精度的情况下才能指定s,s的默认值是0,因此,0 <= s <= p。
p的大小也同时决定了存储位数的大小:
精度大小 | 存储位数 |
1-9 | 5 |
10-19 | 9 |
20-28 | 13 |
29-38 | 17 |
因为p和s必须遵守规则:0 <= s <= p <= 38,所以decimal(p, s)实际上能够表示的有效值是从-10^38+1到10^38-1。这就意味着,decimal数据类型的最大精度是38,即最多可以存储38位数字,所有这些数字均可位于小数点后面。decimal数据类型存储精确的数字表示形式,没有近似值。
小数的除法
小数的除法实际上是近似运算,因此在使用除法的时候SQL Server会自动将小数的类型提升为float类型(隐式数据类型升级)。
小数常量的默认数据类型是decimal,但是float类型的优先级比decimal类型要高。在默认的情况下,SQL Server会将小数数值的常量自动转换为decimal数据类型(常态下),而在进行小数的除法运算的时候,则会就近进行数据类型的升级,转换为float(24)或float(53)数据类型(运算时)。
简单举个例子,常量12.345在常态下会被解析并转换为numeric(5, 3)的数值类型,即使用最小精度5和最小小数位数3;而在运算除法时,比如12.345/2则会被解析并转换为float(24),即最小精度的近似数值类型。
小数转为字符串
相比cast(float_expression as float(24/53)),使用str()函数更能够有效控制近似数值的小数位数,因为str()函数获取的是近似数值。
str(float_expression [ , length [ , decimal ] ])
str()函数可以接受length、decimal两个参数,皆是可选的。
- length是小数的总位数,包含正负符号,小数点,小数点左边和右边数字个数之和;
- decimal是小数位的数量(小数点右边数字个数),小数位最大为16位,不能超过16,否则,会被截断为16位。如果小数位没有decimal多,那么右边补0。
- 返回值是varchar类型。
将decimal常量转换为varchar类型:
select str(123.45, 10, 2); -- 123.45
将float表达式的值转换为varchar类型(位数不足自动补0):
select str(1.0/3, 10, 8); -- 0.33333300
对小数常量转换为varchar类型,减少小数位的数量,由2位减少为1位(会自动进行四舍五入运算):
select str(123.45, 6, 1); -- 123.5
使用函数str或cast将float和decimal强制转换为varchar类型时,返回的数值可能是不相同的:
select str(56.64564684439527, 38, 20); -- 56.64564684438742000000 select cast(56.64564684439527 as varchar(100)); -- 56.64564684439527
这是因为两种函数的处理方式的不同导致的:str()函数会对小数数值先取近似值;而cast()函数则是返回与原始值数据类型相同的值(decimal返回精确值,float返回近似值)。
以上就是详细分析sqlserver中的小数类型(float和decimal)的详细内容,更多关于sqlserver 小数类型的资料请关注开心学习网其它相关文章!
- sqlserver中复合索引(浅析SQL Server 聚焦索引对非聚集索引的影响)
- sqlserver日志被删除(sql server日志处理不当造成的隐患详解)
- sqlserver连接服务器怎么解决(Sql server端口未打开连接不上的解决方案)
- sqlservercount函数的用法(SQL Server中row_number函数的常见用法示例详解)
- sqlserver2014怎么重新激活(解决Windows 10家庭版安装SQL Server 2014出现.net 3.5失败问题)
- sqlserver修改排序规则几种方法(SQL Server 分页编号的另一种方式推荐)
- sqlserver怎么调成混合登录(如何快速删掉SQL Server登录时登录名下拉列表框中的选项)
- SqlServer GO命令循环使用实例代码(SqlServer GO命令循环使用实例代码)
- sqlserver维护计划保存在哪(SQL Server误设置max server memory的处理方法)
- sqlserver数据库备份还原(sqlserver数据库高版本备份还原为低版本的方法)
- SQLSERVER 拼接含有变量字符串案例详解(SQLSERVER 拼接含有变量字符串案例详解)
- sqlserver索引实例(SQL Server索引的原理深入解析)
- sqlserver 查询数据库增长设置(SQL设置SQL Server最大连接数及查询语句)
- sql启动错误代码1814(SQLMSSQLSERVER服务启动错误代码3414的解决方法)
- sqlserver触发器循环条件(SQL Server 利用触发器对多表视图进行更新的实现方法)
- sqlserver查看某个库所有表(SQL Server怎么找出一个表包含的页信息Page)
- 八月再见 愿你岁月不扰,余生静好(八月再见愿你岁月不扰)
- 赏读 八月再见,九月你好(赏读八月再见九月你好)
- 散文 八月再见,九月,我在风中等你(散文八月再见九月)
- 8月再见 9月你好(8月再见)
- 魔兽世界 设计师爆料,原始版本并无PVP,跨阵营属于返璞归真(魔兽世界设计师爆料)
- 吐槽完《弧光大作战》之后,我们和设计师聊了聊魔兽首款手游的立项初衷和未来(吐槽完弧光大作战之后)
热门推荐
- dedecms会员入驻(dedecms会员注册成功后直接跳转到验证的邮箱地址)
- js 出现cannot find function(Fatal error: Call to a member function read on a non-object in 错误解决方法)
- dede栏目seo怎么设置(DedeCMS 标题seo优化 给列表页加上第x页)
- css style常用属性(CSS中的content属性使用教程)
- sql server导入数据csv文件(大容量csv快速内导入sqlserver的解决方法推荐)
- ASP.NET中() => 的含义
- python3安装编程环境(Python3 修改默认环境的方法)
- php 精度误差调整(php精度计算的问题解析)
- SqlServer 按时间段查询问题(SqlServer 按时间段查询问题)
- laravel队列过期时间(laravel 修改记住我功能的cookie保存时间的方法)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9