浮点数

计算机的浮点数

浮点指的是带有小数的数值，浮点运算即是小数的四则运算，常用来测量计算机运算速度。大部分计算机采用二进制（b=2）的表示方法。位（bit）是衡量浮点数所需存储空间的单位，通常为32位或64位，分别被叫作单精度和双精度。有一些计算机提供更大的浮点数，例如英特尔公司的浮点运算单元Intel8087协处理器（以及其被集成进x86处理器中的后代产品）提供80位长的浮点数，用于存储浮点运算的中间结果。还有一些系统提供128位的浮点数（通常用软件实现）。

浮点数的标准

在计算机使用的浮点数被电气电子工程师协会（IEEE）规范化为IEEE 754。

举例

π的值可以表示为π = 3.1415926...₁₀（十进制）。当在一个支持17位尾数的计算机中表示时，它会变为0.11001001000011111 × 2²。

事故

Intel Pentium CPU早期的60-100MHz P5版本在浮点运算单元有一个问题，在极少数情况下，会导致除法运算的精确度降低。这个缺陷于1994年被发现，变成如今广为人知的Pentium FDIV bug，同时这一事件导致Intel陷入巨大的窘态，创建召回项目来回收有问题的处理器。