类型：决定对象可取值的集合以及可执行的操作；运算符指定操作；表达式把变量和常量组合起来生成新值。 ANSI C修补：所有整型都包括signed和unsigned两种；浮点运算可单精度还可long double类型运算；字符串可以编译时连接；支持枚举类型；const类型；扩充算术类型的自动强...
分类：
编程语言 时间：
2015-09-15 18:19:00
阅读次数：
206
高斯消元法的弊端就是针对系数矩阵A，当遇到A(n,n)=0的情况时边无法处理（出现除0错误），以及有效减少计算机在处理浮点运算时出现舍入误差。? ?列主消元法代码： function [x]=ext_gauss(A,b)
n=size(A,...
分类：
其他好文 时间：
2015-09-05 22:26:25
阅读次数：
470
1.引言借用《Effactive Java》这本书中的话，float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不应该被用于要求精确结果的场合。但是，商业计算往...
分类：
编程语言 时间：
2015-09-04 22:22:00
阅读次数：
288
想要开始黑掉核?没有线索不知道如何开始?让我们向你展示如何做…
内核编程通常被视为黑魔法。在Arthur C Clarke的意义上说,它可能是。Linux内核与用户空间有很大的不同:抛开漫不经心的态度,你要格外小心,因为在你代码中的一个小小的bug都会影响整个系统。这里没有简单的方法来做浮点运算、堆栈既固定又小,你写的代码总是异步所以你需要考虑并发性。尽管如此,Linux内核是一个非常大而复...
分类：
系统相关 时间：
2015-08-18 16:23:21
阅读次数：
176
Bash只支持整数运算，不支持浮点运算。如果需要进行浮点运算，需要使用bc程序。Bash中的数学扩展有两种形式：$[ expression ]或$(( expression ))例子：$echo $[5+4-2]7$echo $[ 5*(6-2) ]20var1=100var2=50var3=45v...
分类：
其他好文 时间：
2015-08-09 00:16:37
阅读次数：
176
转自：http://superivan.iteye.com/blog/963628[1] 精确的浮点运算：在Java里面，有时候为了保证数值的准确性需要精确的数据，先提供一个例子就可以发现问题了：public class FloatNumberTester { public static vo...
分类：
其他好文 时间：
2015-07-21 22:03:47
阅读次数：
107
协处理器：浮点运算指令：FILD 类型：整数传送指令指令格式：FILD MemInt;ST(0)=MemInt其中：MemInt是定义为整型数据类型的内存单元，但不能是用BYTE定义的存储单元。下同，不再叙述。
分类：
编程语言 时间：
2015-07-12 23:15:33
阅读次数：
195
一直都是编译armabi的，没有任何问题，这个架构是软件模拟浮点运算的。
后来看到NDK文档上说armabi-v7a是针对有硬件处理浮点计算的arm cpu的。
于是就修改配置编译armebai-v7a的so文件。
结果是编译没问题，一运行就是crash掉，Fatal signal 7 (SIGSEGV)错误。
进过排查才发现，crash掉的仅仅是对一个浮点变量赋值而已。
...
分类：
其他好文 时间：
2015-07-08 16:41:44
阅读次数：
133
本文转载地址：http://www.cnblogs.com/zuoxiaolong/p/computer12.html前言 上一章我们简单介绍了IEEE浮点标准，本次我们主要讲解一下浮点运算舍入的问题，以及简单的介绍浮点数的运算。 之前我们已经提到过，有很多小数是二进制浮点数无法准确表示的，因此.....
分类：
编程语言 时间：
2015-07-08 12:46:54
阅读次数：
216
