http://www.blogjava.net/DLevin/archive/2011/09/13/358497.html http://blog.csdn.net/sum_rain/article/details/39892219 http://www.blogjava.net/DLevin/ar ...
分类：
编程语言 时间：
2017-05-27 10:46:45
阅读次数：
320
转自：http://blog.csdn.net/xdrt81y/article/details/8289963 一、基础 对于彩色转灰度，有一个很著名的心理学公式： Gray = R*0.299 + G*0.587 + B*0.114 二、整数算法 而实际应用时，希望避免低速的浮点运算，所以需要整数 ...
分类：
编程语言 时间：
2017-05-21 11:46:16
阅读次数：
154
BigDecimal 由任意精度的整数非标度值 和32 位的整数标度 (scale) 组成。如果为零或正数，则标度是小数点后的位数。如果为负数，则将该数的非标度值乘以 10 的负scale 次幂。 float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在 ...
分类：
其他好文 时间：
2017-05-15 19:41:09
阅读次数：
1285
遇到的问题及注意事项： 1、浮点运算进行多次后会出现误差，尽量使用整数运算。 ...
分类：
Web程序 时间：
2017-05-15 16:57:16
阅读次数：
279
1 . 关键字strictfp只能用来修饰类和方法，不能用来修饰变量。声明一个类为strictfp意思说该类中的任何方法都会遵守浮点（运算）的IEEE754标准。如果没有说明，则方法中用到 的浮点（运算）可能是平台不独立。 2 . 抽象类（abstract）的方法前也可以用abstract关键字修饰 ...
分类：
编程语言 时间：
2017-05-07 13:03:42
阅读次数：
148
可移植性是 Java 语言的设计目标之一, 无论在哪个虚拟机上运行, 同一运算都应得到同样的结果. 但对于浮点数的算术运算, 实现这样的可移植性相当困难. double 类型使用 64 位存出一个数值, 而有些处理器使用 80 位浮点寄存器, 这些寄存器增加了中间过程的计算精度. 比如以下计算: d ...
分类：
编程语言 时间：
2017-04-22 19:47:30
阅读次数：
187
首先说一下nodejs单线程的优势： 高性能，与php相比，避免了频繁创建切换线程的开销，执行更加迅速，资源占用小。 线程安全，不用担心同一变量被多线程读写，造成程序崩溃。 单线程的异步和非阻塞，其实 nodejs底层访问I/O还是多线程的，阻塞/非阻塞与异步/同步是两个不同的概念，同步不代表阻塞， ...
分类：
Web程序 时间：
2017-04-12 19:53:22
阅读次数：
248
自动类型转换遵循下面的规则： 若参与运算的数据类型不同，则先转换成同一类型，然后进行运算。 转换按数据长度增加的方向进行，以保证精度不降低。例如int型和long型运算时，先把int量转成long型后再进行运算。 所有的浮点运算都是以双精度进行的，即使仅含float单精度量运算的表达式，也要先转换成 ...
分类：
编程语言 时间：
2017-03-24 12:14:34
阅读次数：
214
js几个浮点运算的bug，比如6.9-1.1，7*0.8，2.1/0.3，2.2+2.1 实现思路 通过将浮点数放大倍数到整型(最后再除以相应倍数)，再进行运算操作，这样就能得到正确的结果了 比如：11*(22.9*10)/10 ...
分类：
Web程序 时间：
2017-03-09 13:12:37
阅读次数：
207
在Linux系统下，经常会有一些计算需求，那么下面就简单梳理下几个常用到的计算命令 （1）bc命令bc命令是一种支持任意精度的交互执行的计算器语言。bash内置了对整数四则运算的支持，但是并不支持浮点运算，而bc命令可以很方便的进行浮点运算，当然整数运算也不再话下常用参数选项：-i：强制进入交互式模 ...
分类：
系统相关 时间：
2017-02-04 14:57:47
阅读次数：
263
