| 位数表达 |
误差的中文表达 |
误差的百分比 |
最大的误差PPM |
| 3位 |
小于千分之一 |
<0.1% |
<1000 |
3位半 |
小于二千分之一 |
<0.05% |
<500 |
3又3/4位 |
小于五千分之一 |
<0.02% |
<200 |
4位 |
小于万分之一 |
<0.01% |
<100 |
4位半 |
小于二万分之一 |
<0.005% |
<50 |
4又3/4位 |
小于五万分之一 |
<0.002% |
<20 |
5位 |
小于十万分之一 |
<0.001% |
<10 |
5位半 |
小于二十万分之一 |
<0.0005% |
<5.0 |
5又3/4位 |
小于五十万分之一 |
<0.0002% |
<2.0 |
6位 |
小于百万分之一 |
<0.0001% |
<1.0 |
6位半 |
小于二百万分之一 |
<0.00005% |
<0.5 |
6又3/4位 |
小于五百万分之一 |
<0.00002% |
<0.2 |
7位 |
小于千万分之一 |
<0.00001% |
<0.1 |
7位半 |
小于二千万分之一 |
<0.000005% |
<0.05 |
7又3/4位 |
小于五千万分之一 |
<0.000002% |
<0.02 |
8位 |
小于亿分之一 |
<0.000001% |
<0.01 |
8位半 |
小于二亿分之一 |
<0.0000005% |
<0.005 |
8又3/4位 |
小于五亿分之一 |
<0.0000002% |
<0.002 |
实话说，输入表的后部分，都感觉压力很大，到目标相差好远啊。
虽然规划了这表，可能在我有生之年，有的规格都无法实现。
国内的电阻和测量的同仁们，为精度的再进一步，加油吧！
张前苏
2010-12-22制定
产品介绍
>>电阻及电阻测试设备
测量基准