主题：【已应助】实测质量数的有效数字的设置

原文由 lww1223(lww1223) 发表:

JJF1164-2006质量准确性的测定时，实测质量数要求小数点后二位，怎么设置呀？

原文由 千层峰(jxyan) 发表:

原文由 lww1223(lww1223) 发表:

JJF1164-2006质量准确性的测定时，实测质量数要求小数点后二位，怎么设置呀？

自己保留两位就好了。你想在哪设置？

原文由 pengzw_007(pengzw_007) 发表:

原文由 千层峰(jxyan) 发表:

原文由 lww1223(lww1223) 发表:

JJF1164-2006质量准确性的测定时，实测质量数要求小数点后二位，怎么设置呀？

自己保留两位就好了。你想在哪设置？

他说的应该是仪器上面怎么设置吧，有些人估计设置了整数。

JJF 1164—2006

=

      ——

原文由 symmacros(jimzhu) 发表:

技术指标

要　　　　　　求

我用的仪器是安捷伦7890A/5975C，系统默认是小数点后一位。而根据标准应当小数点后二位，所以请教！



     

质量准确性**

±0.3u

标准要求质量准确性为正负0.3u, 真不知道有效数值保留小数点后两位有何意义，对于一般四级杆MS本身精度只有一位。真是不懂标准是怎样制定的，前后矛盾。

7.5质量准确性



参照7.4.1条件，注入10.0ng/μL的硬酯酸甲酯－异辛烷溶液1.0μL，记录74，143,199,255和298等硬酯酸甲酯主要离子的实测质量数，有效数值保留到小数点后

JJF 1164—2006

两位，理论值见附录E，根据公式(2)计算实测值与理论值之差，以此评价质量准确性。。



　　　　　　　△M=



式中：——第i个离子三次测量平均值，u



      ——第I个离子理论值，u。



注：



１　以最高点及其左右两点的三次扫描所得到的质量数平均作为实测结果；



２　以实测值与理论值之差绝对值最大的一个作为评价质量准确性数据。

原文由 千层峰(jxyan) 发表:

原文由 pengzw_007(pengzw_007) 发表:

原文由 千层峰(jxyan) 发表:

原文由 lww1223(lww1223) 发表:

JJF1164-2006质量准确性的测定时，实测质量数要求小数点后二位，怎么设置呀？

自己保留两位就好了。你想在哪设置？

他说的应该是仪器上面怎么设置吧，有些人估计设置了整数。

没说具体仪器型号，都不知道怎么帮了。。