实战宝典 原创大赛 仪器问答 仪友会 总帖：8040357今日发帖：193 我的社区 签到
快速导航 采购仪器 提醒
农残检测
版主:
入住本版
专家:
居民列表

主题：【求助】关于仪器结果的数据处理问题

浏览0 回复16 电梯直达
123edr
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2019/02/26 20:20:40 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
假如在气相中仪器测农药甲胺磷，给出的仪器读数是0.023ug/mL，标准要求保留2位有效数字，
通常在未计算出结果（mg/kg）之前，所有的仪器读数都要多保留一位（即3位有效数字），那么：
仪器只给出0.023，那我在记录中填写仪器读数时，应该填写“0.023”还是“0.0230” ？
后来我又查了一下资料，发现计算机计算有一个特征是："末尾数只要全是0，均不保留"，也就是说仪器读数0.023实际上是0.0230000...，咋看一下记录填写0.0230或许有些道理。
也有可能是仪器读数0.023后面的数值直接被砍掉了，显示不出来，导致在计算结果（mg/kg）时存在进位误差，领导说直接填0.023，但这样填却并不符合保留有效位数的要求，所以只能求助仪器工程师调一下仪器读数的显示为数这个办法。
问一下大家，你们会填多少？
该帖子作者被版主 zjn1123加 4积分， 2经验，加分理由：鼓励发帖
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
相关阅读
zyl3367898
zyl3367898
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/26 20:39:49 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
软件上可以设结果为小数点四位，这样你就自己保留两位有效数字就行了。
赞贴
1
收藏
0
拍砖
0
举报
老兵
wangliqian
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/26 23:26:49 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
与仪器读数一样，保留0.023即可；如果数据大于0.1，保留3位小数。
赞贴
0
收藏
0
拍砖
0
举报
xiaogumd11
v3247983
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 7:44:27 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
应该是数据大于1.0保留3位有效数字？
赞贴
0
收藏
0
拍砖
0
举报
senke
lifen4607
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 8:41:24 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
0.023即可
赞贴
0
收藏
0
拍砖
0
举报
掌舵的鱼儿
Ins_9b738e97
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 8:45:14 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
与仪器读数一样，保留0.023即可。。。
赞贴
0
收藏
0
拍砖
0
举报
HarryHuang
v2702202
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 8:51:57 6楼 管理 分享 倒序浏览 只看楼主 回复 私聊
调整仪器的数值显示位数，现在的仪器应该都有这个功能的。真的没有就按照仪器实际的进行保留。自己不能私自增加有效位数。
赞贴
0
收藏
0
拍砖
0
举报
雾非雾
mcds
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 10:03:08 7楼 管理 分享 倒序浏览 只看楼主 回复 私聊
按照您说的要求我会填0.0230。
赞贴
0
收藏
0
拍砖
0
举报
雾非雾
mcds
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 10:05:16 8楼 管理 分享 倒序浏览 只看楼主 回复 私聊
您要想再准确些，就找一下工作站里相关的设置，把小数保留位数设多一些，自已按标准要求抄录数据即可。
赞贴
0
收藏
0
拍砖
0
举报
hujiangtao
hujiangtao
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 11:04:37 9楼 管理 分享 倒序浏览 只看楼主 回复 私聊
还是按要求来吧
赞贴
0
收藏
0
拍砖
0
举报
123edr
v2760861
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2019/2/27 12:59:28 10楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 雾非雾(mcds) 发表:
您要想再准确些，就找一下工作站里相关的设置，把小数保留位数设多一些，自已按标准要求抄录数据即可。
好吧，我去找找
赞贴
0
收藏
0
拍砖
0
举报
手机版： 关于仪器结果的数据处理问题
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁