| Режим CEM DT-9959 | Диапазон | Разрешение | Пределы допускаемой основной абсолютной погрешности |
|---|---|---|---|
| Постоянное напряжение | 50мВ | 0,001мВ | ±(0,0005Uизм + 20k) мВ |
| 500мВ | 0,01мВ | ±(0,00025Uизм + 3k) мВ | |
| 5В | 0,0001В | ±(0,00025Uизм + 3k) В | |
| 50В | 0,001В | ±(0,00025Uизм + 3k) В | |
| 500В | 0,01В | ±(0,0003Uизм + 3k) В | |
| 1000В | 0,1В | ±(0,0003Uизм + 3k) В | |
| Переменное напряжение (AC+DC) 45 до1000Гц | 50мВ | 0,001мВ | ±(0,005Uизм + 30k) мВ |
| 500мВ | 0,01мВ | ±(0,005Uизм + 30k) мВ | |
| 5В | 0,0001В | ±(0,005Uизм + 30k) В | |
| 50В | 0,001В | ±(0,005Uизм + 30k) В | |
| 500В | 0,01В | ±(0,008Uизм + 30k) В | |
| 1000В | 0,1В | ±(0,008Uизм + 30k) В | |
| Постоянный ток | 500мкА | 0,01мкА | ±(0,001Iизм + 20k) мкА |
| 5000мкА | 0,1мкА | ±(0,001Iизм + 5k) мкА | |
| 50мА | 0,001мА | ±(0,0015Iизм + 20k) мА | |
| 500мА | 0,01мА | ±(0,002Iизм + 5k) мА | |
| 10A | 0,001A | ±(0,003Iизм + 10k) А | |
| Переменный ток (AC+DC) от 45 до 1000Гц | 500мкА | 0,01мкА | ±(0,006Iизм + 30k) мкА |
| 5000мкА | 0,1мкА | ±(0,006Iизм + 30k) мкА | |
| 50мА | 0,001мA | ±(0,006Iизм + 30k) мА | |
| 500мА | 0,01мA | ±(0,006Iизм + 30k) мА | |
| 10A | 0,001A | ±(0,006Iизм + 30k) А | |
| (20А: не более 30 сек при сниженной точности изм.) | |||
| Сопротивление | 50Ом | 0,001Ом | ±(0,002Rизм + 20k) Ом |
| 500Ом | 0,01Ом | ±(0,0008Rизм + 10k) Ом | |
| 5кОм | 0,0001кОм | ±(0,0008Rизм + 3k) кОм | |
| 50кОм | 0,001кОм | ±(0,0008Rизм + 3k) кОм | |
| 500кОм | 0,01кОм | ±(0,002Rизм + 3k) кОм | |
| 5МОм | 0,001МОм | ±(0,02Rизм + 10k) МОм | |
| 50МОм | 0,001МОм | ±(0,1Rизм + 20k) МОм | |
| Емкость | 5нФ | 0,001нФ | ±(0,015Сизм + 5k) нФ |
| 50нФ | 0,01нФ | ±(0,015Сизм + 5k) нФ | |
| 500нФ | 0,1нФ | ±(0,015Сизм + 5k) нФ | |
| 5мкФ | 0,001мкФ | ±(0,015Сизм + 5k) мкФ | |
| 50мкФ | 0,01мкФ | ±(0,015Сизм + 5k) мкФ | |
| 500мкФ | 0,1мкФ | ±(0,03Сизм + 5k) мкФ | |
| 5мФ | 0,001мФ | ±(0,03Сизм + 30k) мФ | |
| Измерения частоты переменного тока | 50Гц | 0,001Гц | ±(0,0002fизм + 3k) Гц, кГц, МГц |
| 500Гц | 0,01Гц | ||
| 5кГц | 0,0001кГц | ||
| 50кГц | 0,001кГц | ||
| 500кГц | 0,01кГц | ||
| 5МГц | 0,0001МГц | ||
| Частота (электрическая) | 40Гц-10кГц | 0,01Гц — 0,001кГц | ±(0,1%) |
| Чувствительность: 0,02В (действующее знач.), 20мкА (действующее знач.) | |||
| Коэффициент заполнения | 0,1 to 99,90% | 0,01% | ±(1,2% + 2) |
| Длительность импульса: 100мкс-100мс, частота: 5Гц-150кГц | |||
| Температура (тип K) | -58 до 2462°F | 0,1°F | ±(0,5% + 4,5°F) ±(0,5% + 2,5°C) (без учета точности датчика) |
| -50 до 1350°C | 0,1°C | ||
| 4-20мА% | -25 до 125% | 0,01% | ±50 |
| 0мА=-25%, 4мА=0%, 20мА=100%, 24мА=125% |
