自Java2以来，Java语言增加了一个关键字strictfp，虽然这个关键字在大多数场合比较少用，但是还是有必要了解一下。 strictfp 的意思是FP-strict，也就是说精确浮点的意思。在Java虚拟机进行浮点运算时，如果没有指定strictfp关键字时，Java的编译器以及运 行环境在对 ...
分类：
编程语言 时间：
2018-03-04 13:02:54
阅读次数：
199
Python 解释器可以作为一个简单的计算器：您可以在解释器里输入一个表达式，它将输出表达式的值。 表达式的语法很直白： +, -, * 和/ 和在许多其它语言（如Pascal或C）里一样；括号可以用来为运算分组。例如： 注意：在不同的机器上浮点运算的结果可能会不一样。之后我们会介绍有关控制浮点运算 ...
分类：
编程语言 时间：
2018-02-20 10:35:01
阅读次数：
243
本文由 "CPU阿甘" 改编而得，主要讲的是系统启动和程序执行时CPU做的工作。 CPU的构成 中央处理器（CPU，Central Processing Unit）由运算器、控制器、Cache等。 控制器：主要是对指令进行译码。 运算器：主要是执行定点或者浮点运算等。 寄存器：主要功能是保存计算的中 ...
分类：
其他好文 时间：
2018-02-19 12:56:34
阅读次数：
253
【代码】 【运行结果】 【分析】 为什么和我们预想的不一样呢？借用《Effactive Java》这本书中的话，float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果 ...
分类：
其他好文 时间：
2018-02-15 15:57:41
阅读次数：
208
类型转换通常是指变量，从一种类型转换成另外一种类型。例如将一个long类型转换成int类型，变量转换通常 用下面的方式： 在Objective-C中，我们通常使用CGFloat来做浮点运算，32位是float类型，64位是double类型，通常转换方式 如下操作： 上面代码编译执行后的结果： 这里说 ...
分类：
其他好文 时间：
2018-02-06 16:40:55
阅读次数：
145
看了大师的文章，理解了这些代码。 所以可以明白：Linux的系统负载指运行队列的平均长度，也就是等待CPU的平均进程数。 Linux的系统负载指运行队列的平均长度，也就是等待CPU的平均进程数。因为Linux内禁止浮点运算，因此系统的负载只能通过计算变化的次数这一修 正值来计算。Linux内核定义一 ...
分类：
其他好文 时间：
2018-01-30 00:31:27
阅读次数：
236
购买显卡主要关注：显存、带宽和浮点运算数量 GPU ：图形处理器（英语：Graphics Processing Unit，缩写：GPU），又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上图像运算工作的微处理器。 用途是将计算机系统所需 ...
分类：
其他好文 时间：
2018-01-29 22:32:38
阅读次数：
267
在科学计算及工程计算时，常常用float或者double类型；在商业计算中受制于浮点运算二进制的表示方式，无法精确表示分数，为此Java提供了两个对大数字（超过16位有效位）进 行高精度计算的操作类： 1、java.math.BigInteger：针对整数的处理； 2、java.math.BigDe ...
分类：
其他好文 时间：
2018-01-23 20:20:49
阅读次数：
183
shell中的数学计算 一、使用方括号 二、bc的用法 bc技术器实际上是一种编程语言，它可以识别： 数字（整数和浮点数）变量（简单变量和数组）注释（以#或C语言中的/* */开始的行）表达式编程语句（例如if-then语句）函数 浮点运算是由内建变量scale控制的。必须将这个值设置为你希望在计算 ...
分类：
系统相关 时间：
2018-01-19 11:37:45
阅读次数：
234
对比 一、 是一元运算符，返回值是字符串，且只能是 用来判断一个值是否存在 如果用 判断，就会因为a未定义而报错 对于 ，`Null`，typeof一律返回object 二、 是双元运算符,用来判断一个变量是否是某个对象的实例 注意点 ...
分类：
其他好文 时间：
2018-01-16 18:04:10
阅读次数：
120
