码迷,mamicode.com
首页 > 数据库 > 详细

奇怪的 sql server 2008 Power 函数

时间:2014-06-02 06:18:24      阅读:256      评论:0      收藏:0      [点我收藏+]

标签:c   style   class   blog   code   a   

 

 

bigint 的 数据范围是  从 -2^63 (-9223372036854775808) 到 2^63-1 (9223372036854775807) 的整型数据

 

但是 , 如果这么写  

 

    print CAST(POWER(3, 20) AS BIGINT)        

 

会报这个错误 

 

Msg 232, Level 16, State 3, Line 1
Arithmetic overflow error for type int, value = 3486784401.000000.

 

尽管 3486784401  小于  bigint的最大值  。

 

解决方法是  : 改写成

 

    print CAST(POWER(3.0, 20) AS BIGINT)            

 

 

这样,输出的结果就是 

3486784401,

 

也不报错了

 

 

 

奇怪的 sql server 2008 Power 函数,布布扣,bubuko.com

奇怪的 sql server 2008 Power 函数

标签:c   style   class   blog   code   a   

原文地址:http://www.cnblogs.com/lthxk-yl/p/3763714.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!