主题:【求助】关于仪器结果的数据处理问题

浏览 |回复16 电梯直达
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
假如在气相中仪器测农药甲胺磷,给出的仪器读数是0.023ug/mL,标准要求保留2位有效数字,
通常在未计算出结果(mg/kg)之前,所有的仪器读数都要多保留一位(即3位有效数字),那么:
仪器只给出0.023,那我在记录中填写仪器读数时,应该填写“0.023”还是“0.0230” ?
后来我又查了一下资料,发现计算机计算有一个特征是:"末尾数只要全是0,均不保留",也就是说仪器读数0.023实际上是0.0230000...,咋看一下记录填写0.0230或许有些道理。
也有可能是仪器读数0.023后面的数值直接被砍掉了,显示不出来,导致在计算结果(mg/kg)时存在进位误差,领导说直接填0.023,但这样填却并不符合保留有效位数的要求,所以只能求助仪器工程师调一下仪器读数的显示为数这个办法。
问一下大家,你们会填多少?
该帖子作者被版主 zjn11234积分, 2经验,加分理由:鼓励发帖
为您推荐
zyl3367898
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
软件上可以设结果为小数点四位,这样你就自己保留两位有效数字就行了。
老兵
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
与仪器读数一样,保留0.023即可;如果数据大于0.1,保留3位小数。
xiaogumd11
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
senke
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
掌舵的鱼儿
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
HarryHuang
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
调整仪器的数值显示位数,现在的仪器应该都有这个功能的。真的没有就按照仪器实际的进行保留。自己不能私自增加有效位数。
雾非雾
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
雾非雾
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
您要想再准确些,就找一下工作站里相关的设置,把小数保留位数设多一些,自已按标准要求抄录数据即可。
hujiangtao
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 雾非雾(mcds) 发表:
您要想再准确些,就找一下工作站里相关的设置,把小数保留位数设多一些,自已按标准要求抄录数据即可。
好吧,我去找找