BigDecimal通常在涉及到精确计算的时候会用到，下面是自己多次错误使用BigDecimal的总结。结论：BigDecimal初始化小数时，尽量用字符串形式，例如newBigDecimal("0.1");BigDecimal类型变量比较大小时用compareTo方法，判断变量值是否为0，与Big...
分类：
其他好文 时间：
2015-04-21 18:00:22
阅读次数：
155
源：像素与字号的换算在做界面时，往往需要精确计算坐标和字体大小，而字体一般是用磅为单位的，但在制作时，如果要把字体放到图片上，并保持相应大小，就需要进行换算。经过计算：1 磅=1/72 英寸，这是一个单位值1.3象素=1磅(高)96象素=1英寸这里能够用到三个值，算起来就很方便了比如：9（磅）号字就...
分类：
其他好文 时间：
2015-04-11 14:45:34
阅读次数：
308
我们经常遇到这种场景，一个盒子可以装5台肾6，要偷偷带走21台肾6需要多少个盒子？或者一页纸可以记7个妹子的电话号码，要记20个妹子的电话号码需要准备多少张纸？当然，更现实的可能是web页面上一页显示n条记录，x条记录需要分多少页显示。
要精确计算当然是
double pages = (double)x / n;
你就能得到1.5页或者是3.1415929页这种奇怪的数值了，不过你的老板可能会嫉妒你的算术水平，会要求你得到2或者4的结果，这时候怎么办？难道用
int pages = x / n + 1;
这...
分类：
其他好文 时间：
2015-02-04 20:27:49
阅读次数：
134
数值表达式1.奇偶判断2.小数精确计算3.int整数相乘溢出4.负的十六进制与八进制字面常量5.窄数字类型提升至宽类型时使用符号位扩展还是零扩展6.((byte)0x90 == 0x90)?7.三元表达式（?:）8.+=复合赋值问题9.i =++i;与i=i++;的区别10.Integer.MAX_...
分类：
编程语言 时间：
2015-01-29 09:20:02
阅读次数：
297
数值表达式... 2 1. 奇偶判断... 2 2. 小数精确计算... 2 3. int整数相乘溢出... 3 4. 负的十六进制与八进制字面常量... 3 5. 窄数字类型提升至宽类型时使用符号位扩展还是零扩展... 4 6. ((byte)0x90 == 0x90)?. 5 7. 三元表达式（...
分类：
编程语言 时间：
2015-01-29 01:16:42
阅读次数：
298
Java中的计算主要有double,float,int,long,BigDecimal1、float和double主要用户科学计算和工程计算，它们执行二进制浮点运算，这是为了在广泛的数值范围上提供较为精确的快速近似计算而设计的。然而它们并没有提供完全精确的结果，所以不应该被用于需要精确计算的场合。eg:doub..
分类：
编程语言 时间：
2014-12-26 06:18:22
阅读次数：
200
数值表达式 1. 奇偶判断不要使用 i % 2 == 1 来判断是否是奇数，因为i为负奇数时不成立，请使用 i % 2 != 0 来判断是否是奇数，或使用 高效式 (i & 1) != 0来判断。 2. 小数精确计算 System.out.println(2.00 -1.10);//0.8999.....
分类：
编程语言 时间：
2014-12-24 20:02:56
阅读次数：
273
js 浮点数计算时 ，无缘无辜 后边冒出一堆 小数点………… 貌似js本身的问题，类型不定？？？？？？只能自己写函数处理。。 http://blog.csdn.net/w4bobo/article/details/9143663 借鉴一下1 //调用：accAdd(arg1,arg2) 2 //返....
分类：
Web程序 时间：
2014-12-16 13:18:01
阅读次数：
215
一、精确计算1000!的阶乘1000!有多大呢？拿微软自带的计算器一算，结果是4.02*10^2567，共有2568位。在C语言中我们没有能够精确表示这个数字的数据类型。如果非要计算，那么只能以数组的形式存放每一位数字。代码不太难，如下： 1 #include 2 #include 3 4 #...
分类：
其他好文 时间：
2014-11-23 17:26:53
阅读次数：
139
//加
Number.prototype.add?=?function(arg)?{
????var?r1,?r2,?m;
????try{r1?=?this.toString().split(".")[1].length;}catch(e){r1?=?0;}
????try{r2?=?arg.toString().split(".")[1...
分类：
Web程序 时间：
2014-11-19 20:40:01
阅读次数：
226
