原文由 hdyanz 发表:
刚来做实验,在实验结果报告中发现一个困惑的问题。比如做COD,标准里说结果保留三位有效数字,那么问题来了,有些测定结果COD是十几,几十的,结果是20.1,15.2这样子,也有一些比较低的,比如8点多,5点多,那么我是为了保留3位有效数字而写成8.52,5.52这样子呢,还是从数字的准确性来保留成8.5;5.5这样子?
原文由 jennysing 发表:原文由 hdyanz 发表:
刚来做实验,在实验结果报告中发现一个困惑的问题。比如做COD,标准里说结果保留三位有效数字,那么问题来了,有些测定结果COD是十几,几十的,结果是20.1,15.2这样子,也有一些比较低的,比如8点多,5点多,那么我是为了保留3位有效数字而写成8.52,5.52这样子呢,还是从数字的准确性来保留成8.5;5.5这样子?
应该是都保留三位有效数字。
COD的计算公式中最后是一个乘除运算。根据误差理论,乘除运算结果的相对误差等于参加运算各数值的相对误差之和。由于一般说来有效数字位数越少,它的相对误差就越大,所以乘除运算后的有效数字位数,可估计为与参加运算各数中有效数字位数最少的相同。
公式中的C为4个有效数字,V的有效数字位数在3-4之间。因此结果的有效数字也是3-4位。
如果报8.5,5.5这类数值,就降低了你量具的精度。