主题:【第十四届原创】有效数字修约和偏差计算

浏览0 回复4 电梯直达
jiachengqing
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
维权声明:本文为jiachengqing原创作品,本作者与仪器信息网是该作品合法使用者,该作品暂不对外授权转载。其他任何网站、组织、单位或个人等将该作品在本站以外的任何媒体任何形式出现均属侵权违法行为,我们将追究法律责任。

有效数字修约和偏差计算



检验结果、观值或算值应按规定的修约规则处理,以便按规范对检测结果做出判断。测试过程中的数据、以及验证研究 的数据,不管是百分数还是绝对值,其最 后一位有效数字都应慎重考虑。

1、通用规则
    观测值和计算值的有效位数应 于规定的限度值位数,然后按下列方法将结果修约 到致的位数:

A. 观测值 保留位数并非越多越好,应适取舍。对于最原始参与计算的观测值 应至少保留 5 位有效数字 ,如峰面积或峰高;对于是直接结果的观测值,应至少比报告 值保留位,如面积百分比等 。对不参与计算的观测值,应至少比报告值 多保留一位; 如果要求为整数位 ,可直接保留至整数位,如理论塔板数等 。对于仪器不能满 足 以上采 集要求 的,其观测值为其显示值。

B. 中间计算过程中产生 的计算值 ,若参与 RSD 计算的数字,应至少保留 5 位有效 数字: 若为最终结果前一位的计算值,应至少比最终 报告结果多保留一位 。

C.  除非另有说明,所有数字按照以下方式保留:如果最后一位有效数字的后一位 小 5 ,则舍去,前面 位不变;如果最后一位有效数字的后一位大于或等于 5 ,其 后有大于零的数字,它应舍去,其前 位增加 1;若其后等于零 ,则四舍六入五成双

D. 单个检测结果应至少保留 报告值中有效数字后一位;双份的检测结果,在平 均前也应至少保留 报告值有效数 后一位,平均后再修约 平均后,有效数字应与报 告值中规定的有效数 位数一样 进行修约的数值程序按照最近的计算结果进 如表

标准

结果(观测值〉

平均( 算值〉

报告值

不大于 0.10%

0.0939%

0.0844%

0.0892%

X.XXX

0.089%



2、特殊规

一般数字应按照限度要求位数进行报告。在特殊情况下, 一些较小的数字应保留更 多的位数,以防止修约过程中的一些重要信息可能的丢失。例如,如下所获得的一些较 小的数值: HPLC/gc 测得的杂质、干燥失重、蒸发残 渣 、灰分和残渣:以及其它灵敏 仪器的检测结果等 。故需要对数据的修约和保留进行规定 。

A. 限度大于1.0%时,报告值与限度要求一致 。如含量要求不小于98.5% ,计算值为 98.87% ,则报告为98.9%; 溶出度要求为不小于85% ,计算值为92.5% ,则报告为92%; 如某个指定杂质限度为不大于2.0% ,计算值为0.15% ,则报告为0.2% 。

B.限度小于等于1.0%时,报告值比限度值 多保留一位 。如未知杂质限度为不大于0.15% ,计算值为0.1258% ,则报告为 0.126%

C. 残留溶剂、元素杂质等比较灵敏的测试结果,或限度以 ppm (百万分之一〉表示的,报告值应保留至ppm 位;但若出现限度值为一位有效数字,则报告值应比限度值增加一位有效数字,两者以多的为准。如残留溶剂乙醇限度为不大于0.5% ,则应报告 至 0.0001% (1ppm); 乙腊残留限度不大于 0.042% ,则应报告至0.0001% (1ppm); 苯残留限度不大于 2ppm ,则报告至0.lppm 。

D. 定量 限比报告值保留位的最小值还要低,则可以报告最小的报告值 。如:苯残 留限度为 2ppm ,定量限为 0.05ppm ,若检测数据为0.08ppm ,则报告为<0.lppm。

E. 检测结果按照上述规则保留后,若数据小于定量限应报告小于定量限,若数据 小于检出限应报告未检出,其余数据按照要求保留后报告。

F. 注意:对于上述 B 项中报告值比限度值 多保留一位后超过限度值时,需要按照 修约至限度值相同位数后进行判断,如果仍超过限度值,则判为不合格。如:某 一杂质限度要求不大于 0.10% ,若实际测试结果报告0.104%,11多约 后结果为 0.10% ,则判断为合格,并按修约后结果报告;若实际测试结果报告0.106% 修约后结果为 0.11% ,则判断为不合格,应根据 F 项进行调查;含量限度要求不小于98.0% ,实际中间计算过程结果为 97.95% ,报告值为 98.0% ,则判断为合格。

G. 如果进行了平行样检测,则两个独立 的值都应符合 F 中描述的要求。

3、其它规则

对于非检测结果,如 RSD 、回收率、对照偏差值f 和偏差等数据,则按照以下要求 进行:

A. RSD 以%表示,保留小数点后一位,向上修约。

B. 最终报告回收率以%表示,保留小数点后一位,四舍五入。

C. 对照偏差值,以小数表示,保留小数点后两位,四舍五入。

D. 偏差以%表示,保留小数点后 一位,四舍五入, 计算公式为:偏差(%)=绝对值(A-B)/(A+B)*200。

E. 在求总杂质或杂质之和时,每个单一杂质在计算前应进行修约(比报告值多保 留一位),计算后再修约至规定的有效位数。平均结果的修约应在求和之前进行。

F. 由于浓度计算都是可以算尽的值,故浓度的结果不应该进行修约,应全部进行 保留 。

G. 标准偏差 (SD) 的有效数字应与平均值一致(若需要表达至标准偏差) ,例如:100ppm土5ppm ,0.22%±0.03% 。
为您推荐
专属顾问快速对接
获取验证码
立即提交
竖琴老人
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
老师,那些特殊规则的依据是什么,为什么非检测结果有的修约,有的四舍五入?请老师讲清楚一点!
竖琴老人
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
还有老师的题目含有偏差计算,为什么文章内容几乎找不到偏差计算的内容?
wazcq
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
wazcq
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
品牌合作伙伴