主题：【原创】关于精度的问题

我见过的最高精度的光栅尺刻度是0.1UM.听说价格不菲.一个学校也才收藏了那么一块

原文由 wenzhonghui(wenzhonghui) 发表:
我见过的最高精度的光栅尺刻度是0.1UM.听说价格不菲.一个学校也才收藏了那么一块

那只能说你的见识短浅了！呵呵！
精度有准确性与重复性两种！你说的是重复性！这个现在几乎任何厂家都有！
但是把二者共同做好的在材料共聚焦领域只用OLYMPUS！

先询问一下, 多少用户进行计量, 因为这纲量是在计量范围内.

听说KEYENCE的正确度是最高的，资料说准备写上去了

非常感谢你

就测量仪器而言，精度有太多的东西可讲了。

多数测量仪器以重复性这个概念来标示精度，这是在几个方面的实际情况的考虑下，采取的一个简化方法。

精度有测量重复性，测量准确度。楼上有提到，如果重复性很好，每次测量的值很稳定，即使有偏差，通过一个矫正系数就可以把偏差消除。从而的到准确并精确的测量值。

但是在使用这样的方法矫正的时候其实包含了一个假设，即默认仪器的测量系统是线性的。用1um的样品校准了，测量2um也就准了。我的体会是这个不太一定。

各种仪器因为检测原理不同，有的天然就是线性的。有的则不是。多数设备在出厂前应该有对系统的非线性有矫正，对于新到的设备这个非线性误差不太大，但对于使用时间较长的仪器，这个问题就比较大了。要验证非线性，就准备一系列的样品。比如200nm 500nm 1um 2um 10um，每一个都侧一遍，再在系统里做一个线性的拟合。对于纳米或微米级的这样的样品，价格可不低。多数设备随机配有一个就不错了，再多就很少了。对于声称能测到纳米的设备，简单的方法是让厂家提供两个分别是纳米和微米级的样品，不矫正连续对两个样品测重复性，如果都能通过，这样的设备通常问题不会太大。

测量精度和设备分辨率也有关联，从概念上讲是两个东西，但会相互影响，对于一种仪器，由于原理，会对测量的目标分辨有物理极限的限制，反映到测量上就是测量值散布的一部份，散布不全是因为分辨率，但是其中的一部份。影响到散布的还有震动，热飘移等这样的问题。从测量的角度，不能从散中分离开的两组测量值就是一个值。

问题落到共聚焦显微镜上还有点特别之处。共聚焦可以测到的重复精度达到20nm或10nm，但他的分辨率没有那么高。用共聚焦测量单层样品没有问题，但对于透明的多层样品。如果相邻的两层小于1um这样的厚度，他是分辨不出来的。所以对于这样多层样品，共聚焦的分辨率是大于重复精度的。