如何计算万用表的精度

如何计算万用表的精度

精度取决于测量值中包含的误差。精度规格按以下形式表示:”% of reading + % of range” , 其中 ”% of reading” 与读数成正比;”% of range” 与偏移值offset成正比。这些是为每个范围指定的。

如果精度比测量分辨率差,则分辨率对精度没有影响。然而你仍然可以使用万用表监控测量中的微小改变。


Example:如果你要用34401A在1年的限制内测量10Vdc信号,则精度为:

Agilent 34401A

DC Voltage

Function Range Frequency, etc. 24 hour2
23 ± 1 °C
90 day
23 ± 5 °C
1 year
23 ± 5 °C
Temperature coefficient
DC voltage 100.0000 mV 0.0030 + 0.0030 0.0040 + 0.0035 0.0050 + 0.0035 0.0005 + 0.0005
1.000000 V 0.0020 + 0.0006 0.0030 + 0.0007 0.0040 + 0.0007 0.0005 + 0.0001
10.00000 V 0.0015 + 0.0004 0.0020 + 0.0005 0.0035 + 0.0005 0.0005 + 0.0001
100.0000 V 0.0020 + 0.0006 0.0035 + 0.0006 0.0045 + 0.0006 0.0005 + 0.0001
1000.000 V 0.0020 + 0.0006 0.0035 + 0.0010 0.0045 + 0.0010 0.0005 + 0.0001
Calc: [0.0035 + 0.0005] = 10 x (0.0035 / 100) + 10 x (0.0005 / 100) = ±0.00040 V

因此:
测量值:10.00000 V
精度:±0.00040 V
分辨率:0.00001 V

实际得到的回读值在9.9996到10.0004 V之间, 测量值的最后的2位数字包含了误差。

一些模型使用了 “ppm” 替代 ”% of reading + % of range”

Resistor

Function Range CC Source 24 hour2
23 ± 1 °C
90 day
23 ± 5 °C
1 year
23 ± 5 °C
Temperature coefficient
Resistor 100 Ohms 1mA 0.0010 + 0.004
1KOhms 1mA 0.0010 + 0.001
10KOhms 100uA 0.0010 + 0.001
100KOhms 10uA 0.0010 + 0.001
1MOhms 5uA 0.0010 + 0.001
10MOhms 500nA 0.0040 + 0.001
Example 1: 10 ppm of 1(V) is 1 x 10 x (1/1,000,000) = 0.00001(V).
Example 2: 5 ppm of 10(V) is 10 x 5 x 10-6 = 50 u(V)
  • 一些类型的万用表使用”counts” 替代 “% of reading” 和 “% of range”. 欲之后事, 选择: What is a “Count” and how do I use it to compute accuracy? 精度规格定义了规定环境下定义的,例如表面湿度改变&仪器设定为 AUTO ZERO ON/OFF, etc.

补充:对于不同的误差曲线如何表示精度

  1. Figure1误差曲线图

该图线性拟合后为一条直线,此时就需要结合Δk和Δb共同表示,图中经过拟合的曲线经过平移得到一次函数,因此精度可以表示为:±(0.0018% + 2.5uv),对于Δk小于0.01%的值,统一用ppm(百万分之一)表示,上面的精度可以表示为:±(18ppm + 2.5uv)


2. Figure2误差曲线图

该图曲线拟合后可以近似为一条平行x轴的直线,那么此时就可认为ΔK = 0,那么此图中红色曲线的精度就可以表示为:±0.5mV


3. Figure2误差曲线图

该图需要进行分段表示:红色区域和黑色区域就可以使用Δb的形式表示,蓝色区域就需要结合Δk和Δb表示。那么红色和黑色区域为:±5uV,而蓝色区域为:±(23ppm + 2uV)

作者:EnzoSun
微信关注:勿忘初兴
本文出处:http://sunduoze.github.io/post/%E5%A6%82%E4%BD%95%E8%AE%A1%E7%AE%97%E4%B8%87%E7%94%A8%E8%A1%A8%E7%9A%84%E7%B2%BE%E5%BA%A6/
文章版权归本人所有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。