멀티미터 정확도 ±(%+digit), 실제 오차로 바꾸는 계산법

교정·계측

2026.10.26

멀티미터 사양표의 ±(0.05 % + 1)은 읽은 값에 비례하는 오차와 표시 마지막 자리의 고정 오차를 더하라는 뜻입니다. 이 숫자가 실제로 몇 mV인지는 직접 계산해 봐야 알 수 있고, 같은 1.5 V라도 레인지를 바꾸면 허용 오차가 여섯 배 넘게 달라집니다. Fluke 87V의 공식 사양으로 계산 과정을 하나씩 따라가 보겠습니다.

±1.75 mV

1.5 V를 6 V 레인지에서 잴 때

±10.75 mV

같은 값을 60 V 레인지에서 잴 때

0.05 % + 1

87V 직류 전압 정확도

6,000카운트

87V 기본 표시 범위

정확도 표기

±(% + digit) 표기, 두 항을 더해 읽기

앞의 % 항은 측정값에 곱하는 비율이라 값이 클수록 커집니다. 뒤의 digit 항은 그 레인지의 분해능, 즉 표시할 수 있는 가장 작은 자릿값에 숫자를 곱한 것이라 측정값과 관계없이 일정합니다. 두 항을 단위까지 맞춰 더해야 허용 오차가 나옵니다.

Fluke 제품 페이지에 적힌 직류 전압 정확도 ±(0.05 % + 1)도 같은 뜻입니다. 87V의 6.000 V 레인지에서 1.500 V를 읽었다면 다음 순서로 계산합니다.

6.000 V 레인지의 마지막 자리는 1 mV입니다.
% 항은 1.5 V × 0.0005 = 0.75 mV입니다.
digit 항은 1 × 1 mV = 1 mV입니다.
허용 오차는 ±1.75 mV이고, 참값은 약 1.498~1.502 V 범위에 들어 있습니다.

자릿수가 많으면 더 정확할까요?

그렇지는 않습니다. 분해능은 표시가 바뀌는 가장 작은 단위이고, 정확도는 그 표시가 참값에서 얼마나 벗어날 수 있는지를 뜻합니다. 6 V 레인지에서 표시는 1 mV 단위로 움직이지만 허용 오차는 ±1.75 mV라서, 마지막 자리는 두 칸 안팎에서 참값과 다를 수 있습니다.

분해능은 작은 변화를 비교할 때 쓸모가 있고, 판정에 쓸 수 있는 값의 폭은 정확도가 정합니다. 자릿수 표기 자체는 「멀티미터 자릿수, 6½ digit의 뜻」에서 다룹니다.

DCV 레인지	분해능(마지막 자리)	정확도
600.0 mV	0.1 mV	0.05 % + 1
6.000 V	1 mV	0.05 % + 1
60.00 V	10 mV	0.05 % + 1
600.0 V	0.1 V	0.05 % + 1
1000 V	1 V	0.05 % + 1

87V에는 19,999카운트로 자릿수를 한 단계 늘리는 고분해능 모드도 있습니다. 이 모드에서는 마지막 자리 한 단위가 열 배 작아지므로, digit 항을 계산할 때 매뉴얼에서 고분해능 모드의 사양 칸을 따로 찾아야 합니다.

같은 1.5 V, 레인지만 바꿔도 달라지는 오차

digit 항은 레인지의 분해능에 비례합니다. 그래서 측정값이 들어가는 가장 낮은 레인지를 고르면 허용 오차가 가장 작아집니다.

같은 1.5 V를 60 V 레인지에서 재면 마지막 자리가 10 mV로 커져 digit 항이 10 mV가 되고, 여기에 % 항 0.75 mV를 더한 허용 오차는 ±10.75 mV입니다. 6 V 레인지의 ±1.75 mV보다 여섯 배 넘게 넓어지는 셈이니, 자동 레인지가 필요 이상으로 높은 레인지에 머물러 있지 않은지 표시를 확인하세요.

측정값	레인지	% 항	digit 항	허용 오차
1.500 V	6 V	0.75 mV	1 mV	±1.75 mV
1.50 V	60 V	0.75 mV	10 mV	±10.75 mV
4.800 V	6 V	2.4 mV	1 mV	±3.4 mV
4.80 V	60 V	2.4 mV	10 mV	±12.4 mV

87V의 기본 표시는 6,000카운트라서, 측정값이 레인지 끝에 가까워지면 자동 레인지가 다음 레인지로 올라가고 마지막 자리도 열 배 커집니다. 측정값이 레인지 경계 근처에서 오르내린다면 수동 레인지로 고정해 두세요.

레인지별 허용 오차 도식 - 6 V는 ±1.75 mV, 60 V는 ±10.75 mV 비교

레인지를 올리면 % 항은 그대로이고 digit 항만 커집니다

교류·전류·저항의 항목별 사양

87V의 교류 전압은 ±(0.7 % + 2), 직류 전류는 ±(0.2 % + 2), 저항은 ±(0.2 % + 1)로 직류 전압보다 넓습니다. 계산 방식은 같아도 해당 항목의 값을 넣어야 합니다.

230.0 V 교류를 600.0 V 레인지에서 읽는다면 % 항 1.61 V에 digit 항 2 × 0.1 V = 0.2 V를 더해 ±1.81 V가 됩니다. 제품 페이지의 교류 값은 대표 사양이고 정확도는 주파수 대역마다 다르므로, 50 Hz나 60 Hz가 아닌 신호라면 매뉴얼의 대역별 칸을 확인해야 합니다.

전류: 4~20 mA 신호는 60.00 mA 레인지에서 읽으며, 마지막 자리가 0.01 mA이므로 12.00 mA의 허용 오차는 0.024 mA와 0.02 mA를 더한 ±0.044 mA입니다.
저항: 600.0 Ω 레인지에서 100.0 Ω은 ±0.3 Ω입니다. 이 계산에는 측정 리드 저항이 들어 있지 않으므로 리드를 단락해 읽은 값을 빼고 판정하는 편이 안전합니다.

사양표 정확도가 성립하는 조건

사양표의 정확도는 정해진 온도와 교정 후 기간 안에서만 성립합니다. 이 조건을 벗어나면 계산한 허용 오차를 그대로 쓸 수 없습니다.

헷갈리기 쉬운 것이 동작 온도입니다. 87V 제품 페이지에 적힌 −20~55 °C는 장비가 작동하는 범위일 뿐, 정확도가 보장되는 조건과는 다릅니다. 사용자 매뉴얼 사양표 머리말에서 정확도의 기준 온도 범위와 교정 후 유효 기간, 그 범위 밖에서 더하는 온도 계수를 확인해 두세요.

결과 기록

허용 오차까지 적는 측정 기록

읽은 값 옆에 레인지와 계산한 허용 오차를 함께 적어 두면, 판정 한계에 가까운 값을 나중에 다시 해석할 수 있습니다. 순서로 정리하면 아래와 같습니다.

측정 항목과 주파수(교류일 때)에 맞는 사양 칸을 찾습니다.
측정값이 들어가는 가장 낮은 레인지를 고르고 그 레인지의 분해능을 확인합니다.
측정값 × % 값으로 첫째 항을 구합니다.
분해능 × digit 수로 둘째 항을 구해 첫째 항과 더합니다.
온도와 교정 유효 기간이 사양 조건 안인지 확인합니다.
측정값, 레인지, 허용 오차를 함께 기록합니다.

허용 오차는 장비 사양이 보장하는 범위이고, 측정 불확도는 여기에 반복성이나 환경 같은 다른 요인을 더해 평가한 값입니다. 사양 오차를 불확도 예산의 한 항목으로 넣는 방법은 「측정 불확도 입문, GUM 핵심 개념」에서 이어집니다.

읽은 값 옆에 레인지와 허용 오차를 함께 적어 두세요

자주 묻는 질문

멀티미터 정확도 ±(0.05 % + 1)은 어떻게 계산하나요?
측정값의 0.05 %에 마지막 자리 한 단위를 더합니다. Fluke 87V의 6 V 레인지에서 1.500 V를 쟀다면 0.75 mV + 1 mV로 허용 오차는 ±1.75 mV입니다.
멀티미터 사양의 digit은 마지막 자리 숫자 1을 뜻하나요?
아닙니다. 표시 마지막 자리의 한 단위, 즉 분해능이 몇 개인지를 뜻합니다. 마지막 자리가 1 mV인 레인지라면 2 digit은 2 mV입니다.
멀티미터는 자동 레인지와 수동 레인지 중 어느 쪽이 정확한가요?
측정값이 들어가는 가장 낮은 레인지가 가장 정확합니다. 자동 레인지가 높은 레인지에 머물면 digit 항이 커져서, 1.5 V를 60 V 레인지에서 재면 허용 오차가 ±10.75 mV로 넓어집니다.
멀티미터 분해능이 높으면 정확도도 높은가요?
그렇지 않습니다. 분해능은 표시되는 최소 단위이고, 정확도는 참값과의 허용 차이입니다. 1 mV까지 표시하는 레인지라도 허용 오차는 ±1.75 mV일 수 있습니다.
사양표의 정확도는 어떤 조건에서든 적용되나요?
아닙니다. 정확도는 교정 후 정해진 기간 안에서, 기준 온도 범위에 있을 때만 성립합니다. 장비의 동작 온도 범위와는 다른 조건입니다.