以下是参考《IEEE754 学习总结》并结合自己学习总结一：前言二：预备知识三：浮点数的表示范围四：将浮点格式转换成十进制数一：前言 前不久在分析一个程序的过程中遇到了浮点运算，也就顺便学习了一下浮点数的存放格式（IEEE754标准），此文仅作为总结，其中举了几个典型的例子，如果你想深入了解IEEE...
分类：
其他好文 时间：
2014-11-02 17:45:35
阅读次数：
348
先吹个吧。cpu没有算盘好，算盘不但可以计算，同时也存储了最后结果，同样可以加减乘除，当然还可以小数（浮点）运算，它有可表示的数的极限（最大值和最小值），它也可以多进程（同样的计算方式，不同的数据内容），甚至多线程（同一数据内容，不同的计算方式）。它和程序一样，可逆性很差。----扯远了，权做玩笑看...
分类：
其他好文 时间：
2014-11-02 13:51:26
阅读次数：
198
下面的内容不是必须掌握的，是为了满足一些好奇心强同学的需要。IEEE754目前为C标准所支持，而且许多硬件均支持，可以说目前浮点数处理基本是IEEE754的天下。http://zh.wikipedia.org/wiki/IEEE_754中文材料1.4IEEE浮点运算标准-华东师范大学数学系这个比较简...
分类：
其他好文 时间：
2014-10-16 14:23:22
阅读次数：
154
一篇文章：4 个用于执行高级数学计算的 JavaScript 库numbers.jsNumeric Javascriptaccounting.jsTangle有时只需要加减乘法能精确，没必要用到库。首先看下js浮点运算问题。JS里做小数的乘法运算时会出现浮点错误，具体可以测试一下： 结果是251.8...
分类：
编程语言 时间：
2014-10-10 19:52:24
阅读次数：
225
有些FPGA中是不能直接对浮点数进行操作的，只能采用定点数进行数值运算。对于FPGA而言，参与数学运算的书就是16位的整型数，但如果数学运算中出现小数怎么办呢？要知道，FPGA对小数是无能为力的，一种解决办法就是采用定标。数的定标就是将要运算的浮点数扩大很多倍，然后取整，再用这个数进行运算，运算得到的结果再缩小相应的倍数就可以了。在设计中，一定不要忘记小数点。在FPGA 中是体现不出来小数点的，小...
分类：
其他好文 时间：
2014-10-04 14:11:56
阅读次数：
146
题意：n个抢劫犯分别抢到的金钱是k1, k2, k3,...，一共得到的金钱是m， 但是在分钱的时候是按照x1/y, x2/y, x3/y,....的比例进行分配的！这样的话 一些抢劫犯就会觉得不公平，不公平度为|xi/y - ki/m|(浮点运算)， 输出一个序列ki，使得 总的不公平...
分类：
其他好文 时间：
2014-10-04 02:45:15
阅读次数：
302
数字类型的相关模块：decimal：十进制浮点运算类array：高效数值数组（字符，整形，浮点型）match：常规数学运算operator：数字操作符的函数实现random：多种伪随机数生成器字符串类型相关的模块：re：正则表达式struct：字符串和二进制之间转换StringIO：字符串缓冲对象，...
分类：
编程语言 时间：
2014-09-23 22:14:55
阅读次数：
254
1] 精确的浮点运算：在Java里面，有时候为了保证数值的准确性需要精确的数据，先提供一个例子就可以发现问题了：Java代码 publicclassFloatNumberTester{publicstaticvoidmain(Stringargs[]){System.out.println(0.05...
分类：
其他好文 时间：
2014-09-18 14:47:03
阅读次数：
297
有些编译器和硬件是支持乘除法和浮点运算，运用起来也是很方便！唯一让我不满的就是很占用ROM ! 所以某些平台恰好可以用移位来换算！学习推算心得：分母是为 2的平方的情况下成立！ 2.4.8.16.32.64.128.256.512.1024.2048......左移1位 相当于 乘以2 左移2位 相...
分类：
编程语言 时间：
2014-09-17 18:31:32
阅读次数：
447
