码迷,mamicode.com
首页 > 数据库 > 详细

SQLServer bigint 转 int带符号转换函数(原创)

时间:2014-08-08 12:25:05      阅读:564      评论:0      收藏:0      [点我收藏+]

标签:style   blog   color   使用   io   数据   问题   cti   

有一个需求是要在一个云监控程序中存储状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储

现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,

问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:

消息 8115,级别 16,状态 2,第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。

因为状态码中已经用到了 0x80000000, 出现了符号位的问题。
写了一个转换函数解决了。

CREATE FUNCTION [dbo].[BigintToInt]
(
     @Value bigint   
)
RETURNS int
AS
BEGIN
     -- 是否有int符号位
     IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000
     -- 无符号位
     RETURN @Value & 0xFFFFFFFF
END

 

SQLServer bigint 转 int带符号转换函数(原创),布布扣,bubuko.com

SQLServer bigint 转 int带符号转换函数(原创)

标签:style   blog   color   使用   io   数据   问题   cti   

原文地址:http://www.cnblogs.com/yryz/p/3899004.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!