码迷,mamicode.com
首页 >  
搜索关键字:小数 浮点数 内存存储 阶码 尾数 指数    ( 17393个结果
ORACLE 中NUMBER 类型 低精度转换成高精度
例如: 表User中有一个字段 salary Number(10,3),如果想把字段salary的类型提高精度到salary Number(10,6),保留六位小数,解决办法:1,ALTER TABEL USER MODIFY SALARY NUMBER(13,6);解释:number类型刚开始是,...
分类:数据库   时间:2014-07-02 22:02:59    阅读次数:322
js取整数
1.丢弃小数部分,保留整数部分parseInt(5/2)2.向上取整,有小数就整数部分加1Math.ceil(5/2)3.四舍五入.Math.round(5/2)4.向下取整Math.floor(5/2)5.Math 对象的方法FF: Firefox, N: Netscape, IE: Intern...
分类:Web程序   时间:2014-07-02 21:32:45    阅读次数:408
把数组排成最小的数
题目:输入一个正整数数组,把数组里面所有数字拼接起来排成一个数,打印能拼接出的所有数字钟最小的一个。例如:输入数组{3,,32,321} ,则打印出来的最小数是321323.分析:这里一个需要注意的是,组成的数有可能溢出,所以这是一个大数问题。对于大数问题,我们又想到不能直接这么组成一个数字,可以采...
分类:其他好文   时间:2014-07-02 20:41:40    阅读次数:218
sql server 保留小数(续A)
写完上一篇文章后,陆续有朋友给出了其他思路,我在小结在这篇博客中。思路一:转换成字符串后输出(这也是上一篇文章给的思路)1 1 SELECT CASE WHEN @a % @b = 0 THEN CAST(@a / @b AS VARCHAR(16)) 2 2 EL...
分类:数据库   时间:2014-07-02 19:52:12    阅读次数:249
5个缺失的 JavaScript 数字格式化函数
/** 下面两个函数都能对浮点数进行四舍五入,保留小数点后两位 **/function CurrencyFormatted(amount) { var i = parseFloat(amount); if(isNaN(i)) { i = 0.00; } var minus = ''...
分类:编程语言   时间:2014-07-02 19:34:46    阅读次数:273
显示输入框只能输入2位小数
function checkNum(obj) { obj.value = obj.value.replace(/[^\d.]/g, ""); //清除“数字”和“.”以外的字符 obj.value = obj.value.replace(/^\./g, ""); //验证第一个字...
分类:其他好文   时间:2014-07-02 18:49:21    阅读次数:167
常用正则表达式
decmal: "^([+-]?)\\d*\\.\\d+$", //浮点数 decmal1: "^[1-9]\\d*.\\d*|0.\\d*[1-9]\\d*$", //正浮点数 decmal2: "^-([1-9]\\d*.\\d*|0.\\d*[1-9]\\d*)$", //负浮点数...
分类:其他好文   时间:2014-07-02 17:32:57    阅读次数:149
sqlite-5分钟入门手册
它的特点是:极小、数据库、性能不错。 适合场景:小型应用软件,解决存文件的不便...
分类:数据库   时间:2014-07-02 09:44:29    阅读次数:194
hdu 1717 小数化分数2 (数论)
点我点我点我!!! 接下来要做的就是模拟上述过程了。 静下来想一下自己要得到的信息。 然后拿出来,就可以了,模拟嘛,都是这样的。 #include #include #include #include using namespace std; char str[20]; int gcd(int a,int b) { return a%b==0?b:gc...
分类:其他好文   时间:2014-07-02 09:17:57    阅读次数:159
PHP:计算小数点后位数
本文提供两种方法,一种将小数变成字符串,然后用”.“来截取,去.后的子字符串长度。还有一种是讲小数*10的N次方,比如10的8次方再对8次方取余数,再不断对10求余,直到对10求余的结果不为0。 相比来说,第一种方法要好不少,理由是这样的,比如1.000004在很边界的时候或者0.99999这样子PHP处理会有问题,会有误差,导致得到的位数不一样。而且精度难以把握,所以处理这种跟边界有关的问题最...
分类:Web程序   时间:2014-07-02 09:10:30    阅读次数:245
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!