五.计算机的运算方法 --在计算机中参与运算的数有两大类：无符号数和有符号数 无符号数：没有符号的数 有符号数 机器数与真值：机器中：0表示正，1表示负 原码表示法：把真值的正负用01表示 补码表示法：真值为正时，与原码相同，真值为负时，补码是原码的“求反加一” 反码表示法：真值为正时，与原码相同， ...
分类：
其他好文 时间：
2018-01-03 00:52:30
阅读次数：
203
《深入理解计算机系统（第三版）》第二章 信息的表示和处理 计算机本身是由处理器和存储器子通过系统组成。在核心部分，我们需要方法来表示基本数据类型，比如整数和实数运算的近似值。然后，我们考虑机器级指令如何操作这样的数据，以及编译器又如何将C程序翻译成这样的指令。接下来，研究几种 ...
分类：
其他好文 时间：
2017-12-17 18:20:11
阅读次数：
111
本章我们来研究三种重要的数字表示 无符号是基于传统二进制表示法，表示大于或等于0的数字 补码是表示有符号整数的最常见方式，有符号整数可以是正或者为负 浮点数是表示实数的科学计数法的以2为基数的版本 计算机的表示法是用有限的数量的位表示的数字编码，所以，结果太大的时候，某些运算就会溢出。浮点运算溢出会 ...
分类：
其他好文 时间：
2017-12-16 22:06:12
阅读次数：
275
转自：http://superivan.iteye.com/blog/963628 [1] 精确的浮点运算： 在Java里面，有时候为了保证数值的准确性需要精确的数据，先提供一个例子就可以发现问题了： 按照我们的期待，上边应该是什么结果呢，但是看输出我们就会发现问题了： 这样的话这个问题就相对严重了 ...
分类：
其他好文 时间：
2017-12-03 14:42:18
阅读次数：
179
CreateTime--2017年12月1日11:35:00 Author:Marydon java 浮点类型（float、double）间的运算工具类 /** * 进行BigDecimal对象的加减乘除，四舍五入等运算的工具类 * * @author Marydon * @createTime 2 ...
分类：
编程语言 时间：
2017-12-01 13:48:25
阅读次数：
256
VPX610是北京青翼科技的一款基于6U VPX架构的高性能实时信号处理平台，该平台采用2片TI的KeyStone系列多核DSP TMS320C6678作为主处理单元，采用1片Xilinx的Virtex-7系列FPGA XC7VX690T作为协处理单元，具有2个FMC子卡接口，各个处理节点之间通过高 ...
记得在某一次项目中，运用js进行一系列算数运算，计算中会存在浮点类型，就单纯的进行了计算，最后在测试过程中，主管在核对数据的时候发现计算的结果是有问题的，于是就很纳闷，在网上搜索找到了答案 ，http://www.css88.com/archives/7340 原因：计算过程中的十进制的数会先转换二 ...
分类：
Web程序 时间：
2017-11-25 23:34:14
阅读次数：
259
第一章 计算机花费大量时间在内存，I/O设备和CPU寄存器之间复制数据，有没有什么方法可以缩短时间？ 第二章 学习了有符号数和无符号数之间的转换，整数的运算，使用补码编码，浮点运算中有时候不注意就会错误，为什么不能让它和普通的运算结合一下呢？ 第四章 学习指令集体结构，将不同指令组织放到五个阶段中处 ...
分类：
其他好文 时间：
2017-11-20 01:14:08
阅读次数：
104
题目内容： 由于计算机内部表达方式的限制，浮点运算都有精度问题，为了得到高精度的计算结果，就需要自己设计实现方法。 (0,1)之间的任何浮点数都可以表达为两个正整数的商，为了表达这样两个数的商，可以将相除的结果以多个整数来表示，每个整数表示结果的一位。即商的第一位用一个整数来表示，第二位用另一个整数 ...
分类：
其他好文 时间：
2017-11-12 11:16:31
阅读次数：
172
