측정의 불확정성

우리는 보통 측정과 관련된 숫자를 얻을 때는 측정 장치를 이용하여 계산하거나 기록한다. 예를 들어보자면 뷰렛이 있다. 뷰렛으로 액체의 부피를 측정하는 경우를 살펴보자. 액체의 매너 서커스가 29.58mL를 나타낸다고 했을 때 메니스커스의 처음 액체를 넣지 않았을 때의 위치가 0.00mL라면 이 말은 29.58mL의 액체가 뷰렛으로부터 흘러나왔음을 의미한다. 뷰렛의 눈금을 읽을 때 뷰렛 부피의 마지막 숫자는 0.1mL의 눈금 사이의 값을 추정해야 한다. 위의 숫자와 같이 소수점 두 번째 자리부터는 눈금에 표시되지 않기에 자신 말고도 다른 이가 뷰렛의 매너 서커스를 측정하게 된다면 그 값이 다르게 나타날 수 있다.


예시를 한번 들어보자. 세 사람이 모두 같은 부피를 측정했다고 했을 때의 표이다.

사람	측정 결과
1	29.51mL
2	29.59mL
3	29.56mL

 

이 결과에서 처음 세 숫자를 보면 사람과 관계없이 모두 29.5로 같음을 확인할 수 있다. 이를 확실한 값이라고 불러보자. 하지만 5 다음에 오는 숫자는 추정을 통해 알아내야 하므로 사람마다 값이 다를 수 있다. 이를 불확실한 값이라고 하자. 위의 표와같이 측정 결과를 기록해 둘 때는 확실한 값의 모든 자리의 숫자들과 불확실한 값 한 자리의 숫자만을 기록해 둔다. 위의 예시와 같이 측정에는 항상 불확실성이 따르게 되고 이것이 존재한다는 것을 이해하는 건 매우 중요한 일이다. 이러한 측정을 불확정성은 측정의 정밀도에 의존하게 된다. 예를 들면 거실의 저울을 이용해 책의 질량을 측정했을 때 약 2.3 파운드가 나왔다. 하지만 더욱 정밀한 저울을 사용해서 책의 질량을 재더니 2.276 파운드가 나오게 되었다. 첫 번째 결과의 실험값을 보면 1십분의 일자리에서부터 불확정성이 나타난다. 두 번째 결과의 실험값을 보면 1천분의 일자리에서부터 불확정성이 나타남을 알 수 있었다. 두 개의 질량이 비슷한 책을 거실의 저울과 정밀한 저울을 사용해서 이와 같은 결과를 얻어냈다.

	거실의 저울	정밀 저울
책1	2.3 파운드	2.276 파운드
책2	2.3 파운드	2.342 파운드

 

과연 이 책의 질량은 같을까? 이 질문은 우리가 어떠한 실험 결과를 사용했느냐에 따라 다르다.

따라서 우리가 측정 결과를 이용해서 실험을 진행한다고 하면, 측정 결과를 통해 결론지어진 답변은 측정의 확실성에 따라서 결정되게 되어있다. 그렇기 때문에 어떠한 실험을 하더라도 측정의 불확정성을 나타내는 것은 매우 필연적이다.

위에서 설명했듯이 측정의 불확정성은 항상 확실한 자릿수 전부와 불확실한 첫 자릿수를 기록해 나타낸다.

이 숫자들을 유효숫자라고 부른다. 이러한 유효숫자는 측정의 불확정성을 자동으로 나타내게 된다.

마지막 숫자의 불확정성은 다른 조건의 언급이 없는 한 보통 ±1로 가정한다. 

예를 들면 1.86파운드라는 측정값은 1.86파운드 ±0.01파운드를 뜻한다.

 

부패한 물 시료를 분석하기 위해 과학자가 물 시료 43.00mL를 피펫으로 측정하였다. 이 실험의 다른 단계에서 어떤 용액 43mL를 눈금실린더를 이용하여 측정하였다. 두 43mL와 43.00mL의 차이는 무엇일까? 숫자 자체로 보기에는 두 숫자는 같아 보이지만 실제로는 서로 다른 정보를 주고 있다. 43mL는 부피가 42mL와 44mL 사이에 있음을 나타내는 지표이며, 43.00mL는 부피가 42.99mL와 43.01mL 사이에 있음을 나타내는 것이다. 한마디로 자료의 정확성이 달라지는 것이다. 이를 통해 피펫이 눈금실린더보다 부피를 훨씬 더 정밀하게 측정할 수 있음을 알 수 있다.

 

측정의 신뢰도를 나타내는 데 주로 사용되는 용어로 정확도와 정밀도가 있다. 일상생활에서는 두 용어를 비슷하게 여겨 서로 바꾸어 쓰기도 하지만, 과학에서는 서로 완전히 다른 의미를 지니고 있다. 정확도란 측정값이 참값에 얼마나 근접하고 있는가를 나타내며, 정밀도란 걑은 양을 여러 번 측정했을 때 이들 측정값이 얼마나 서로 비슷한지를 나타낸다. 다른 말로 정밀도는 측정의 재현성을 나타내고 있다. 우연오차(또는 불가측 오차)란 측정값이 크거나 작게 나타날 확률이 같은 오차이다. 이 오차는 측정값의 마지막 자리 숫자를 추정할 때 발생한다. 두 번째 오차로는 계통오차(또는 가축 오차)가 있다. 계통오차란 항상 같은 방향으로만 일어나는 오차이다. 한마디로 항상 크거나 항상 작거나 둘 중 하나이다. 예를 들어보자. 다트를 과녁에 던질 때를 생각해 보자. 다트를 5개 던진다고 할 때 다트가 과녁 이곳저곳에 무규칙 하게 박혀있고 다트의 대부분이 과녁의 중앙이 아닌 가장자리에 박혀있다면 이것은 우연오차가 크고 계통 오차가 있다고 볼 수 있다. 그러나 다트가 일정한 곳에 박혀있으나 그 위치가 가장자리라면 우연오차가 작으나 계통 오차가 있는 것이고, 다트가 과녁의 정중앙에 5개 모두 일정하게 박혀있다면 그것은 우연오차가 작고 계통오차가 없다고 볼 수 있다. 

정량적인 실험에서 정밀도는 보통 정확도의 척도로 이용된다. 우리는 보통 정확한 측정값의 평균이 정확하거나 참값에 가깝다고 가정시킨다. 하지만 이러한 가정은 계통오차가 없을 시에만 참이다. 가령 청구를 5개를 매우 정밀한 저울을 이용해 다섯번 무게를 재어 순서대로 3.580g, 3.581g, 3.586g, 3.584g, 3.589g이 나왔다고 하자. 일반적으로는 5개 자료의 평균값인 3.584g에 매우 가깝다고 생각할 수 있다. 그러나 만약 저울에 무게를 일정하게 0.200g씩 높게 나타내는 결점(즉 지닌다면 일반적인 평균값인 3.584g은 매우 큰 오차를 지니고 있다. 따라서 측정값의 정밀도가 높기 위해서는 계통오차가 없다는 전제하에 정확도와 관련지을 수 있는 것이다.

재미있게 읽으셨다면 다음글도 읽어보시는 건 어떠신가요?

2025.01.28 - [화학] - 몰과 몰질량