如何计算万用表的精度
精度取决于测量值中包含的误差。精度规格按以下形式表示:”% of reading + % of range” , 其中 ”% of reading” 与读数成正比;”% of range” 与偏移值offset成正比。这些是为每个范围指定的。
如果精度比测量分辨率差,则分辨率对精度没有影响。然而你仍然可以使用万用表监控测量中的微小改变。
Example:如果你要用34401A在1年的限制内测量10Vdc信号,则精度为:
Agilent 34401A
DC Voltage
| Function | Range | Frequency, etc. | 24 hour223 ± 1 °C | 90 day 23 ± 5 °C | 1 year23 ± 5 °C | Temperature coefficient |
|---|---|---|---|---|---|---|
| DC voltage | 100.0000 mV | 0.0030 + 0.0030 | 0.0040 + 0.0035 | 0.0050 + 0.0035 | 0.0005 + 0.0005 | |
| 1.000000 V | 0.0020 + 0.0006 | 0.0030 + 0.0007 | 0.0040 + 0.0007 | 0.0005 + 0.0001 | ||
| 10.00000 V | 0.0015 + 0.0004 | 0.0020 + 0.0005 | 0.0035 + 0.0005 | 0.0005 + 0.0001 | ||
| 100.0000 V | 0.0020 + 0.0006 | 0.0035 + 0.0006 | 0.0045 + 0.0006 | 0.0005 + 0.0001 | ||
| 1000.000 V | 0.0020 + 0.0006 | 0.0035 + 0.0010 | 0.0045 + 0.0010 | 0.0005 + 0.0001 |
Calc: [0.0035 + 0.0005] = 10 x (0.0035 / 100) + 10 x (0.0005 / 100) = ±0.00040 V
因此: 测量值:10.00000 V 精度:±0.00040 V 分辨率:0.00001 V
实际得到的回读值在9.9996到10.0004 V之间, 测量值的最后的2位数字包含了误差。
一些模型使用了 “ppm” 替代 ”% of reading + % of range”
Resistor
| Function | Range | CC Source | 24 hour223 ± 1 °C | 90 day 23 ± 5 °C | 1 year23 ± 5 °C | Temperature coefficient |
|---|---|---|---|---|---|---|
| Resistor | 100 Ohms | 1mA | 0.0010 + 0.004 | |||
| 1KOhms | 1mA | 0.0010 + 0.001 | ||||
| 10KOhms | 100uA | 0.0010 + 0.001 | ||||
| 100KOhms | 10uA | 0.0010 + 0.001 | ||||
| 1MOhms | 5uA | 0.0010 + 0.001 | ||||
| 10MOhms | 500nA | 0.0040 + 0.001 |
Example 1: 10 ppm of 1(V) is 1 x 10 x (1/1,000,000) = 0.00001(V).
Example 2: 5 ppm of 10(V) is 10 x 5 x 10-6 = 50 u(V)
- 一些类型的万用表使用”counts” 替代 “% of reading” 和 “% of range”. 欲之后事, 选择: What is a “Count” and how do I use it to compute accuracy? 精度规格定义了规定环境下定义的,例如表面湿度改变&仪器设定为 AUTO ZERO ON/OFF, etc.
补充:对于不同的误差曲线如何表示精度
- Figure1误差曲线图
该图线性拟合后为一条直线,此时就需要结合Δk和Δb共同表示,图中经过拟合的曲线经过平移得到一次函数,因此精度可以表示为:±(0.0018% + 2.5uv),对于Δk小于0.01%的值,统一用ppm(百万分之一)表示,上面的精度可以表示为:±(18ppm + 2.5uv)
2. Figure2误差曲线图
该图曲线拟合后可以近似为一条平行x轴的直线,那么此时就可认为ΔK = 0,那么此图中红色曲线的精度就可以表示为:±0.5mV
3. Figure2误差曲线图
该图需要进行分段表示:红色区域和黑色区域就可以使用Δb的形式表示,蓝色区域就需要结合Δk和Δb表示。那么红色和黑色区域为:±5uV,而蓝色区域为:±(23ppm + 2uV)
作者:EnzoSun
微信关注:勿忘初兴
本文出处:http://sunduoze.github.io/post/%E5%A6%82%E4%BD%95%E8%AE%A1%E7%AE%97%E4%B8%87%E7%94%A8%E8%A1%A8%E7%9A%84%E7%B2%BE%E5%BA%A6/
文章版权归本人所有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
Sun's Blog