Java中进行二元与运算类型的提升规则 整数运算： 如果两个操作数有一个为long，则结果也为long； 没有long时，结果为int。即使操作数全为short、byte，结果也是int。 浮点运算： 如果两个操作数有一个为double，则结果为double； 只有两个操作数都是float，则结果才 ...
分类：
其他好文 时间：
2020-06-05 20:46:46
阅读次数：
502
decimal 模块：decimal意思为十进制，这个模块提供了十进制浮点运算支持 1.可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。 2.要从浮点数据转换为Decimal类型 from decimal import * Decimal.from_float ...
分类：
编程语言 时间：
2020-06-03 23:40:13
阅读次数：
160
Unixbench性能测试主机的综合性能(如系统调用、读写、进程、图形化测试、2D、3D、运算等)CPU性能Pi圆周率测试：bc命令进行浮点运算，小数点后的位数为3000，测试耗时越短则表明性能越好磁盘性能IOPS和IO时延作为衡量磁盘性能的重要指标，理论上，IOPS越大越好，时延越低越好。FIO：libaio引擎测试网络性能使用了Netperf网络性能测试工具，使用UDP协议+小包，小包大小为1
分类：
系统相关 时间：
2020-05-27 15:42:45
阅读次数：
101
Unixbench性能测试主机的综合性能(如系统调用、读写、进程、图形化测试、2D、3D、运算等) CPU性能 Pi圆周率测试：bc命令进行浮点运算，小数点后的位数为 3000，测试耗时越短则表明性能越好 磁盘性能 IOPS和IO时延作为衡量磁盘性能的重要指标，理论上，IOPS越大越好，时延越低越好 ...
分类：
系统相关 时间：
2020-05-27 11:53:41
阅读次数：
70
CPU VS GPU 关于绘图和动画有两种处理的方式：CPU（中央处理器）和GPU（图形处理器）。但是由于历史原因，我们可以说CPU所做的工作都在软件层面，而GPU在硬件层面 对于图像处理，通常用硬件会更快，因为GPU使用图像对高度并行浮点运算做了优化,我们想尽可能把屏幕渲染的工作交给硬件去处理。问 ...
分类：
移动开发 时间：
2020-05-12 16:54:06
阅读次数：
77
题目描述： 给定两条线段（表示为起点start = {X1, Y1}和终点end = {X2, Y2}），如果它们有交点，请计算其交点，没有交点则返回空值。 要求浮点型误差不超过10^-6。若有多个交点（线段重叠）则返回 X 值最小的点，X 坐标相同则返回 Y 值最小的点。 就是要分类讨论一下，要注 ...
分类：
其他好文 时间：
2020-04-12 22:28:11
阅读次数：
77
i.MX 6UltraLite(简称为i.MX 6UL)是i.MX6系列的新产品。i.MX 6UltraLite采用单核ARM Cortex-A7，处理器主频528MHz，采用NEON技术加速多媒体和信号处理算法，具有浮点运算单元。适合于物联网，电子支付，智能家居，能源管理等领域。
如何在i.MX6UL平台上实现硬浮点与软浮点？
分类：
其他好文 时间：
2020-04-11 22:13:16
阅读次数：
79
在学习了基于8086的x86汇编指令后，继续学习了32位、64位的x86汇编指令。其基本原理与8086基本一致，只是增加了X87浮点单元，以及用于浮点运算和多媒体处理的SIMD（Single Instruction Multiple Data，单指令多数据流）指令。
分类：
其他好文 时间：
2020-04-09 10:51:23
阅读次数：
83
1.引言 float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不应该被用于要求精确结果的场合。但是，商业计算往往要求结果精确，这时候BigDecimal就派上 ...
分类：
编程语言 时间：
2020-03-09 13:16:23
阅读次数：
73
（1）BigIntege:实现任意精度的整数运算。（2）BigDecimal:实现任意精度的浮点运算。 例如： 使用BigDecimal进行浮点数比较 import java.math.BigDecimal; public class HelloWorld{ public static void m ...
分类：
编程语言 时间：
2020-02-24 23:55:40
阅读次数：
129
