Accuracy (Ae) 1. DC Voltage Measurement Range | 2V, 20V, 200V, and 600V | Resolution | 1mV, 10mV, 100mV, and 1V | Accuracy | +/- (0.4% + 3 digits) | Input Impedance | 1 M¥Ø |
2. AC Voltage Measurement (True RMS) Range | 2V, 20V, 200V, and 600V | Resolution | 1mV, 10mV, 100mV, and 1V | Accuracy | +/- (0.8% + 5 digits) | Input Impedance | 1 M¥Ø |
3. DC Current Measurement Range | 2mA, 20mA, 200mA, and 2000mA | Resolution | 1µA, 10µA, 100µA, and 1mA | Accuracy | +/- (0.4% + 3 digits) | Current Shunt | 0.1 ¥Ø @ >20mA, 10 ¥Ø @ ¡Â20mA |
4. AC Current Measurement (True RMS) Range | 2mA, 20mA, 200mA, and 2000mA | Resolution | 1µA, 10µA, 100µA, and 1mA | Accuracy | +/- (0.8% + 5 digits) | Current Shunt | 0.1 ¥Ø @ >20mA, 10 ¥Ø @ ¡Â20mA | Note: The accuracy of DC/AC voltage/current measurements is only applied when in 5% - 100% of the range. 5. LCR Measurement Z Accuracy (Ae) Freq. | |Zx| | 20M ¡ 10M (¥Ø) | 10M ¡ 1M (¥Ø) | 1M ¡ 100K (¥Ø) | 100K ¡ 10K (¥Ø) | 10K ¡ 1K (¥Ø) | 1K ¡ 100 (¥Ø) | 100 ¡ 1 (¥Ø) | 1 ¡ 0.1 (¥Ø) | DCR | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 100Hz | | | 120Hz | | | 1KHz | | | 10KHz | 5% ¡¾1 (*) | 2% ¡¾1 | | | 100KHz 200KHz (*) | NA | 5% ¡¾1 | 2% ¡¾1 | 1% ¡¾1 | 0.4% ¡¾1 | 1% ¡¾1 | 2% ¡¾1 | 5% ¡¾1 | Note: 1. The accuracy applies when the test level is set to 1Vrms. 2. Ae multiplies 1.25 when the test level is set to 250mVrms. 3. Ae multiplies 1.50 when the test level is set to 50mVrms. 4. When measuring L and C, multiply Ae by (1 + Dx2)1/2 if the Dx>0.1. (*): Ae is applied only when the test level is set to 1Vrms. C Accuracy 100Hz | 79.57pF | 159.1pF | 159.1pF | 1.591nF | 1.591nF | 15.91nF | 15.91nF | 159.1nF | 159.1nF | 1.591µF | 1.591µF | 15.91µF | 15.91µF | 1591µF | 1591µF | 15.91mF | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 120Hz | 66.31pF | 132.6pF | 132.6pF | 1.326nF | 1.326nF | 13.26nF | 13.26nF | 132.6nF | 132.6nF | 1.326µF | 1.326µF | 13.26µF | 13.26µF | 1326µF | 1326µF | 13.26mF | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 1KHz | 7.957pF | 15.91pF | 15.91pF | 159.1pF | 159.1pF | 1.591nF | 1.591nF | 15.91nF | 15.91nF | 159.1nF | 159.1nF | 1.591µF | 1.591µF | 159.1µF | 159.1µF | 1.591mF | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 10KHz | 0.795pF | 1.591pF | 1.591pF | 15.91pF | 15.91pF | 159.1pF | 159.1pF | 1.591nF | 1.591nF | 15.91nF | 15.91nF | 159.1nF | 159.1nF | 15.91uF | 15.91uF | 159.1µF | 5% ¡¾1 (*) | 2% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 100KHz (*) | NA | 0.159pF | 1.591pF | 1.591pF | 15.91pF | 15.91pF | 159.1pF | 159.1pF | 1.591nF | 1.591nF | 15.91nF | 15.91nF | 1.591µF | 1.591µF | 15.91µF | NA | 5% ¡¾1 | 2% ¡¾1 | 1% ¡¾1 | 0.4% ¡¾1 | 1% ¡¾1 | 2% ¡¾1 | 5% ¡¾1 | 200KHz (*) | NA | 0.079pF | 0.795pF | 0.795pF | 7.957pF | 7.957pF | 79.57pF | 79.57pF | 795.7pF | 795.7pF | 7.957nF | 7.957nF | 795.7nF | 795.7nF | 7.957µF | NA | 5% ¡¾1 | 2% ¡¾1 | 1% ¡¾1 | 0.4% ¡¾1 | 1% ¡¾1 | 2% ¡¾1 | 5% ¡¾1 |
L Accuracy 100Hz | 31.83KH | 15.91KH | 15.91KH | 1591H | 1591H | 159.1H | 159.1H | 15.91H | 15.91H | 1.591H | 1.591H | 159.1mH | 159.1mH | 1.591mH | 1.591mH | 159.1µH | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 120Hz | 26.52KH | 13.26KH | 13.26KH | 1326H | 1326H | 132.6H | 132.6H | 13.26H | 13.26H | 1.326H | 1.326H | 132.6mH | 132.6mH | 1.326mH | 1.326mH | 132.6µH | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 1KHz | 3.183KH | 1.591KH | 1.591KH | 159.1H | 159.1H | 15.91H | 15.91H | 1.591H | 1.591H | 159.1mH | 159.1mH | 15.91mH | 15.91mH | 159.1µH | 159.1µH | 15.91µH | 2% ¡¾1 (*) | 1% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 10KHz | 318.3H | 159.1H | 159.1H | 15.91H | 15.91H | 1.591H | 1.591H | 159.1mH | 159.1mH | 15.91mH | 15.91mH | 1.591mH | 1.591mH | 15.91µH | 15.91µH | 1.591µH | 5% ¡¾1 (*) | 2% ¡¾1 | 0.5% ¡¾1 | 0.2% ¡¾1 | 0.1% ¡¾1 | 0.2% ¡¾1 | 0.5% ¡¾1 | 1% ¡¾1 (*) | 100KHz (*) | 31.83H | 15.91H | 15.91H | 1.591H | 1.591H | 159.1mH | 159.1mH | 15.91mH | 15.91mH | 1.591mH | 1.591mH | 159.1µH | 159.1µH | 1.591µH | 1.591µH | 0.159µH | NA | 5% ¡¾1 | 2% ¡¾1 | 1% ¡¾1 | 0.4% ¡¾1 | 1% ¡¾1 | 2% ¡¾1 | 5% ¡¾1 | 200KHz (*) | 15.91H | 7.957H | 7.957H | 795.7mH | 795.7mH | 79.57mH | 79.57mH | 7.957mH | 7.957mH | 795.7µH | 795.7µH | 79.57µH | 79.57µH | 0.795µH | 0.795µH | 0.079µH | NA | 5% ¡¾1 | 2% ¡¾1 | 1% ¡¾1 | 0.4% ¡¾1 | 1% ¡¾1 | 2% ¡¾1 | 5% ¡¾1 |
D Accuracy Freq. | |Zx| | 20M ¡ 10M (¥Ø) | 10M ¡ 1M (¥Ø) | 1M ¡ 100K (¥Ø) | 100K ¡ 10K (¥Ø) | 10K ¡ 1K (¥Ø) | 1K ¡ 100 (¥Ø) | 100 ¡ 1 (¥Ø) | 1 ¡ 0.1 (¥Ø) | 100Hz | ¡¾0.020 (*) | ¡¾0.010 | ¡¾0.005 | ¡¾0.002 | ¡¾0.002 | ¡¾0.002 | ¡¾0.005 | ¡¾0.010 (*) | 120Hz | | | 1KHz | | | 10KHz | ¡¾0.050 (*) | ¡¾0.020 | | | 100KHz 200KHz (*) | NA | ¡¾0.050 | ¡¾0.020 | ¡¾0.010 | ¡¾0.004 | ¡¾0.010 | ¡¾0.020 | ¡¾0.050 |
¥è Accuracy Freq. | |Zx| | 20M ¡ 10M (¥Ø) | 10M ¡ 1M (¥Ø) | 1M ¡ 100K (¥Ø) | 100K ¡ 10K (¥Ø) | 10K ¡ 1K (¥Ø) | 1K ¡ 100 (¥Ø) | 100 ¡ 1 (¥Ø) | 1 ¡ 0.1(¥Ø) | 100Hz | ¡¾1.046 (*) | ¡¾0.523 | ¡¾0.261 | ¡¾0.105 | ¡¾0.105 | ¡¾0.105 | ¡¾0.261 | ¡¾0.523 (*) | 120Hz | | | 1KHz | | | 10KHz | ¡¾2.615 (*) | ¡¾1.046 | | | 100KHz 200KHz (*) | NA | ¡¾2.615 | ¡¾1.046 | ¡¾0.409 | ¡¾0.209 | ¡¾0.409 | ¡¾1.046 | ¡¾2.615 |
Z Accuracy As shown in table 1. C Accuracy |Zx| = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) CAe = Ae of C f: Test Frequency (Hz) Cx: Measured Capacitance Value (F) |Zx|: Measured Impedance Value (¥Ø) Accuracy applies when Dx (measured D value) ¡Â0.1 When Dx > 0.1, multiply CAe by (1 + Dx2)1/2 Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 100nF |
Then |Zx| = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) = 1/(2¡¤¥ð¡¤103¡¤100¡¤10-9) = 1590 ¥Ø Refer to the accuracy table, get CAe=¡¾0.1% L Accuracy |Zx| = 2¡¤¥ð¡¤ƒ¡¤Lx LAe = Ae of L f: Test Frequency (Hz) Lx: Measured Inductance Value (H) |Zx|: Measured Impedance Value (¥Ø) Accuracy applies when Dx (measured D value) ¡Â0.1 When Dx > 0.1, multiply LAe by (1 + Dx2)1/2 Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 1mH |
Then |Zx| = 2¡¤¥ð¡¤ƒ¡¤Lx = 2¡¤¥ð¡¤103¡¤10-3 = 6.283¥Ø Refer to the accuracy table, get LAe = ¡¾0.5% ESR Accuracy ESRAe = ¡¾Xx¡¤Ae/100 Xx = 2¡¤¥ð¡¤ƒ¡¤Lx = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) ESRAe = Ae of ESR f: Test Frequency (Hz) Xx: Measured Reactance Value (¥Ø) Lx: Measured Inductance Value (H) Cx: Measured Capacitance Value (F) Accuracy applies when Dx (measured D value) ¡Â0.1 Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 100nF |
Then |Zx| = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) = 1/(2¡¤¥ð¡¤103¡¤100¡¤10-9) = 1590¥Ø Refer to the accuracy table, get CAe=¡¾0.1%, ESRAe = ¡¾Xx¡¤Ae/100 = ¡¾1.59¥Ø D Accuracy DAe = ¡¾Ae/100 DAe = Ae of D measurement value Accuracy applies when Dx (measured D value) ¡Â0.1 When Dx > 0.1, multiply Dx by (1+Dx) Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 100nF |
Then |Zx| = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) = 1/(2¡¤¥ð¡¤103¡¤100¡¤10-9) = 1590¥Ø Refer to the accuracy table, get CAe=¡¾0.1%, DAe = ¡¾Ae/100 = ¡¾0.002 Q Accuracy QAe = ¡¾(Qx2¡¤De)/(1-/+(Qx¡¤De)) QAe = Ae of Q measurement value Qx: Measured Quality Factor Value De: Relative D Accuracy Accuracy applies when Qx¡¤De <1 Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 1mH |
Then |Zx| = 2¡¤¥ð¡¤ƒ¡¤Lx = 2¡¤¥ð¡¤103¡¤10-3 = 6.283¥Ø Refer to the accuracy table, get LAe=¡¾0.5%, De = ¡¾Ae/100 = ¡¾0.005 If measured Qx = 20 Then QAe = ¡¾(Qx2¡¤De)/(1-/+(Qx¡¤De)) = ¡¾2/(1-/+0.1) ¥è Accuracy ¥èAe = 180/¥ð¡¤Ae/100 Example: Test Condition: Frequency: | 1KHz | Level: | 1Vrms | DUT: | 100nF |
Then |Zx| = 1/(2¡¤¥ð¡¤ƒ¡¤Cx) = 1/(2¡¤¥ð¡¤103¡¤100¡¤10-9) = 1590¥Ø Refer to the accuracy table, get ZAe=¡¾0.1%, ¥èAe = ¡¾(180/¥ð¡¤Ae/100) = ¡¾(180/¥ð¡¤0.1/100) = ¡¾0.057 ¡Æ |