码迷,mamicode.com
首页 >  
搜索关键字:浮点运算    ( 220个结果
NAS、NAS硬盘、UPS选择
NAS: 威联通(QNAP)TS-451 NAS四盘位网络存储器 双核浮点运算2.41GHz CPU ? 价位:4200人民币左右 NAS硬盘: 西部数据红盘4T????价位:1200人民币左右 UPS: UPS不间断电源APC BK650-CH 650VA/400W稳压防浪...
分类:其他好文   时间:2015-04-21 14:55:35    阅读次数:164
linux kernel对于浮点运算的支持
这里有一点思考: 对于一款处理器,处理器设计中有浮点异常(MIPS PPC都是),其外也可以接FPU。 在接FPU后,处理器核内就要屏蔽掉浮点异常,不然浮点运算还是产生浮点异常,FPU就没有实用意义了。 无FPU,则处理器核内要使能浮点异常,不然就跟我上面遇到的问题一样,处理器不知道该如何运行该浮点指令,结果就无法预测了。...
分类:系统相关   时间:2015-04-18 16:13:29    阅读次数:202
重写javascript浮点运算
javascript中变量存储时不区分number和float类型,同一按照float存储;javascript使用IEEE 754-2008标准定义的64bit浮点格式存储number,decimal64对应的整形部分长度为10,小树部分长度为16;javascript做小数点运算会出现不精准./...
分类:编程语言   时间:2015-04-09 19:42:23    阅读次数:178
浮点类型
浮点运算:浮点运算就是实数运算,由于计算机只能存储整数,所以实数都是约数,这样浮点运算很慢而且会有误差计算结果后面多了一个1,这个1是运算的误差,这就表明2.6保存在内存中是以约数形式来保存,是有一定误差,在数值运算中最好用整型运算
分类:其他好文   时间:2015-04-08 12:57:53    阅读次数:196
Ubuntu 12.04 64bit GCC交叉编译器制作 原创
GCC 交叉编译器制作 GCC交叉编译器制作         做嵌入式开发少不了跨平台操作,因此也少不了使用交叉编译器,我们可以自己动手制作属于我们自己的交叉编译器,其中可以定制一些东西,可以使之支持浮点运算等特殊要求。以下以适合嵌入式开发最常用的ARM平台的ARMGCC交叉编译器为例进行讲解:其他平台步骤和方法一样,只需在平台选择的时候作相应更改即可。 准备工作:       1.下...
分类:系统相关   时间:2015-03-18 18:14:24    阅读次数:227
ARM学习——建立交叉编译环境
在linux平台下,要为开发版编译内核,需要使用交叉编译工具链。tiny6410使用的是arm-linux-gcc-4.5.1。它默认采用armv6指令集,支持硬浮点运算。以下是安装步骤: 1)将文件 arm-linux-gcc-4.5.1-v6-vfp-20101103.tgz复制到redh...
分类:其他好文   时间:2015-03-13 12:28:48    阅读次数:202
js浮点运算的问题
问题引入:今天在前台js处理两个数字的相乘时出现了精度的偏差:1.2*3=3.9999999995,本来应该是3.6的。百度了一下,发现这是js浮点运算的一个Bug。网上找了一些对js浮点数运算的重写方法,现在把这些方法总结一下,以供遇到同样问题的朋友参考。...
分类:Web程序   时间:2015-03-11 14:54:58    阅读次数:158
修饰符使用范围
5.10 修饰符的适用范围strictfp关键字的含义是FP-strict,也就是精确浮点的意思,在java虚拟机进行浮点运算时,使用strictfp可以让浮点运算更加精确。 native主要用于修饰一个方法,它类似于一个抽象方法,与抽象方法不同的是:native方法通常采用C语言来实现,如果某个方法需要利用平台相关特性,或者访问系统硬件,则可以使用native修饰该方法,再把该方法交给C去实现,...
分类:其他好文   时间:2015-03-01 11:58:25    阅读次数:137
Java之道系列:BigDecimal如何解决浮点数精度问题
BigDecimal的解决方案就是,不使用二进制,而是使用十进制(BigInteger)+小数点位置(scale)来表示小数,...
分类:编程语言   时间:2015-02-16 01:43:02    阅读次数:171
js数值计算的处理,防止精度误差
(解决方法一:重写浮点运算的函数) //除法函数,用来得到精确的除法结果? //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。? //调用:accDiv(arg1...
分类:Web程序   时间:2015-01-30 06:46:06    阅读次数:156
220条   上一页 1 ... 16 17 18 19 20 ... 22 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!