大多数语言在处理浮点数的时候都会遇到精度问题，但是在JS里似乎特别严重，来看一个例子alert(45.6*13);结果居然是592.800000000001，当然加法之类的也会有这个问题那这是js的错误吗？当然不是，你的电脑做着正确的二进制浮点运算，但问题是你输入的是十进制的数，电脑以二进制运算，这...
分类：
编程语言 时间：
2014-08-13 21:49:27
阅读次数：
192
项目中包含浮点运算，大概每秒 20 - 100 万左右. 其计算结果每秒只包含1000个左右。 因此大量运算是重复性的。程序运行时，cpu 在 3% - 10% 浮动。打算将结果缓存。根据键值索值。目前考虑数据类型有: SortedList , SortedDictionary , Dictiona...
分类：
其他好文 时间：
2014-08-11 17:10:42
阅读次数：
202
你需不需要一台每秒可以进行数百万亿次浮点运算的机器？或者，你想不想知道点关于你家地下室里的超级计算机是如何上电运行的趣事儿？建造一台属于自 己的计算集群——亦即超级计算机——是每个闲得发慌还有钱烧的专业极客都能做到的事情！从技术上来讲，一台现代多处理器超级计算机实际上是一个计算机网 络，这些计算机并...
分类：
其他好文 时间：
2014-08-08 11:58:05
阅读次数：
303
点运算符（.):点运算符只能用于类类型的对象，其左侧运算对象必须是一个类类型的对象，右侧运算对象必须是该类型的一个成员名，运算结果为右侧运算对象指定的成员。调用运算符（()）：当用点运算符访问一个成员函数时，通常我们是想调用该函数，我们使用调用运算符来调用一个函数，调用运算符是一对圆括号，里面放置实...
分类：
其他好文 时间：
2014-07-31 09:44:45
阅读次数：
164
转载自:Daywei 高精度乘法计算高精度乘法计算基础1.高精度浮点运算方法 高精度浮点（Floating Point，FP）运算可以转换成整数型运算。由于高精度浮点数可以看成是由整数部分（Integer Part，IP）与小数部分（Decimal Part，DP）的组合，因此其乘法可以看成以下3....
分类：
其他好文 时间：
2014-07-27 23:20:19
阅读次数：
309
ARM支持16个协处理器，在程序执行过程中，每个协处理器忽略属于ARM处理器和其他协处理器指令，当一个协处理器硬件不能执行属于她的协处理器指令时，就会产生一个未定义的异常中断，在异常中断处理程序中，可以通过软件模拟该硬件的操作，比如，如果系统不包含向量浮点运算器，则可以选择浮点运算软件模拟包来支持向...
分类：
其他好文 时间：
2014-07-22 00:18:34
阅读次数：
225
0.两个要点a) 一个空类，编译器自动合成默认无参构造函数、析构函数、拷贝构造函数、赋值运算符。b) 在编写类的时候，必须严格区分对象是否可复制。1.运算符重载之 string类1.1 运算符重载的几个要点:a) 运算符重载可以有成员函数和友元函数的形式，后者比前者多一个参数。b) =和+=必须重载...
分类：
编程语言 时间：
2014-07-19 18:30:05
阅读次数：
206
C01++val;优于 val++;对数量不定的输入数据：while(cin>>value)...遇到无效的输入或eof后，cin变为无效状态，条件变为假。来自标准库的头文件用包围，不属于标准库的用""包围。文件重定向工作：exename.exe outfile点运算符：左侧运算对象是类类型的，右侧...
分类：
编程语言 时间：
2014-07-19 08:31:13
阅读次数：
277
1. 基本处理流程：a) 图像预处理： 1) 点运算(灰度直方图/灰度线性变换/灰度对数变换/伽马变换/灰度阈值变换/分段线性变换/直方图均衡化/直方图规定化) 2) 几何变换(图像平移/图像镜像/图像转置/图像缩放/图像旋转/插值算法/图像配准) 3) 空间域图像增强(空间域滤波/图像平滑/...
分类：
其他好文 时间：
2014-07-16 19:20:21
阅读次数：
350
IEEE二进制浮点数算术标准（IEEE 754）是20世纪80年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number）），一些特殊数值（无穷（Inf）与非数值（NaN）），以及这些数值的“浮点数运算符...
分类：
其他好文 时间：
2014-07-16 18:45:57
阅读次数：
264
