原文由 tutm(tutm) 发表:
双精度浮点数
浮点数运算是计算机运算过程的一种数字方式名称,普通精度也称单精度浮点数是7-8位有效数字进行运算,双精度浮点数采用15-16位有效数字进行运算。
对于一般使用人,7-8位有效数字感觉已经很多了,但是对于计算机来说,一个简单的数学运算也可能包含有非常多的机内运算步骤,有时运算步骤较多的话单精度浮点数运算的累积误差就会很明显,采用双精度浮点数运算可以极大减少这种机内运算的累积误差。在一些运算过程比较长的软件里会采用双精度,象迭代逼近、数学模拟等,普通试验数据统计处理可能没有必要了,因为这会降低计算机的运行速度。