23
Gleichspannungswiderstand
Bereich
Auflösung
Toleranz
200,00 Ω
10 mΩ
0,5% + 8
[1]
2,0000 kΩ
100 mΩ
0,5% + 5
20,000 kΩ
1 Ω
0,5% + 5
200,00 kΩ
10 Ω
0,5% + 5
2,0000 MΩ
100 Ω
0,5% + 5
20,000 MΩ
1 kΩ
1,0% + 5
200,00 MΩ
10 kΩ
2,0% + 5
[2]
[1] Die Genauigkeit wird durch Subtrahieren des Offset-Widerstandes angegeben.
[2] <50 Digit schwankt.
verlustfaktor „D“ & Gütefaktor „Q“
Definition: Q = 1 / D = tanθ;
Bereich: 2,000 bis 2000
Minimale Auflösung: 0.001
Genauigkeit : ± (0,5% + 5 ) x ( 1 + D) , wenn D <1 bzw. Q> 1
Phasenwinkel „θ“
Definition: θ = tan
-1
Q = arctan (Q)
Bereich: -90,0 ° bis 90,0 °
Minimale Auflösung: 0,1 °
Genauigkeit: ± (0,5% + 5)