实战宝典 原创大赛 仪器问答 仪友会 总帖：8091269今日发帖：639 我的社区 签到
快速导航 采购仪器 提醒
实验室认可/资质认定
版主:
入住本版
专家:
居民列表

主题：【求助】关于标称值的有效位数（小数点位数）

浏览0 回复1 电梯直达
Ins_33dac784
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2024/09/30 16:17:11 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
请教各位老师，如果一个产品的输出电压标称值为220V，实际测试时用仪表测到的电压为220.6V，现在要计算相对偏差（220.6-220）/220，下面哪种计算是符合有效数字运算规则的？谢谢！
1、将标称值220V的小数点位数视为无穷位，220.6-220视为220.6-220.00000......，由于分子是加减运算，结果要按小数点位数最少的保留，因此，分子计算结果为0.6；分母视为220.00000.....，乘除运算的结果按有效位数最少的保留，因此相对偏差0.6/220.00000......的结果0.00272727......，保留1位有效数字（因为分子0.6有效数字为1位，比分母有效位数少），最终结果为0.3%。
2、将标称值220V视为不带小数点的整数，则分子220.6-220加减后计算结果也保留为整数，分子得1，分母为220，所以相对偏差1/220的结果0.00454545......，最终保留1位有效数字，得0.5%。
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
独行者
baby073125
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2024/9/30 16:25:25 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
我个人感觉第一种比较合适一些，因为第二种有点像两次修约了，这样是不合理的。如果计算的话起码应该保持数值的修约位数一致才对。从内控的角度来看可以从严把控。
赞贴
0
收藏
0
拍砖
0
举报
手机版： 关于标称值的有效位数（小数点位数）
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁