|
2-3. 분석 결과의 통계 처리
이 세상에서 완벽한 것은 없는지도 모른다. 분석을 하다보면 필연적으로
오차(참 값과 어긋나는 정도)와 마주치게 된다. 분석자들은 보통 이러한 오차를 통계적인
방법으로 평가하고 보고한다. 이와 같은 통계처리를 하는 목적은 다음과 같다.
- 참 값에 개한 근접 정도 판단.
- 두 분석 결과 묶음의 비교
- 측정치의 기각 판단
- 신뢰 정도에 따른 분석 평균치의 오차 범위
- 분석 결과의 적확한 보고
오차는 크게 가측오차(determinate error or non-random error)와 불가측오차
(inderterminate error ro random error)로 나뉜다. 이들 두 가지
오차에 대해 아래에서 좀 더 자세히 살펴보자
2-3-1. 오차
2-3-1-1. 가측오차
원인 규명이 가능한 오차. 즉, 분석 상 뚜렷한 (잘못된) 이유에 의해 유발되는
오차이며 제거가 가능하다.
이러한 가측오차의 원인으로는
- 분석자에 의한 오차: 실수 및 감지 능력의 한계.
- 분석 기기에 의한 오차: 분석 조건의 변화 및 부적당성 등
- 분석 방법에 의한 오차: 잘못된 분석 방법의 채택. 간섭의 존재 및 민감도의 문제 등
위와 같은 가측오차는 다음과 같은 방법으로 발견하여 제거할 수 있다:
- 분석 반복.
- 다른 분석자가 같은 시료를 같은 방법에 의해 분석.
- 기준 시료 분석.
- 바탕 실험(blank test) 수행.
- 시료의 양을 달리 해서 분석.
- 내부 표준 시료(internal standard) 첨가 분석
- 실험 기록 검토
- 계산 검증.
2-3-1-2. 불가측 오차
원인 규명이 불가능한 오차. 이 오차는 분석 전 과정에 걸쳐 존재하는
무작위성(randomness)에 기인하는 것으로, 제거가 불가능하다. 불가측 오차는 반복 분석을]
통해 통계적인 방법으로 평가하여야 하며, 이를 항상 적절한 신뢰도를 바탕으로 분석 결과와
함께 보고하여야 한다.
블가측 오차는 다음과 같은 특징을 갖는다:
- 오차의 크기가 (가측 오차에 비해) 상대적으로 적다.
- 오차 값이 양과 음이 될 확률이 같다.
- 오차의 크기 빈도가 정규 분포(normal distriobution or Gaussian distribution)을
이룬다.
2-3-1-2-1. 정규 분포
그림 2-2. 정규분포곡선
위 정규분포는 다음 식으로 나타낼 수 있다.
2-3-1-2-2. 불가측 오차의 표현
- 범위(range): 최대값과 최소값의 차이, xmax - xmin.
- 상대범위(relative range): 범위/평균 * 100 (%)
- 평균편차(average deviation from the mean):
- 표준편차(standard deviation)
모수(population, 측정치의 갯수)이 무한히 많을 때:
제한된 모수에 대해서는:
- 상대 표준 편차(relative standard deviation):
- 신뢰한계(confidence limits):
σ를 알 경우:
1회 측정:
N회 측정:
위에서 z는 정규뷴포 곡선의 면적에 따른 값, 즉 신뢰(유의)수준
(confidence level)에 따른
값으로 아래 표-1과 같이 주어진다
[표-1] 신뢰 수준에 따른 z 값
| 신뢰 수준(%) |
z |
| 50.0 |
0.674 |
| 68.3 |
1.000 |
| 90.0 |
1.645 |
| 95.0 |
1.960 |
| 95.5 |
2.000 |
| 99.0 |
2.576 |
| 99.7 |
3.000 |
| 99.9 |
3.2 |
|
σ를 모를 경우:
1회 측정(실제로는 불가능):
N회 측정:
위에서 t는 student's t라고 하며, 주어진 자유도(degree of freedom; 독립적 측정
횟수)와 신뢰 수준에 따라 아래 표-2와 같이 주어진다:
[표-2] 자유도 및 신뢰 수준에 따른 t 값
| 자유도 |
신뢰 수준(%) |
| 80 |
90 |
95 |
99 |
99.9 |
| 1 |
3.08 |
6.31 |
12.7 |
63.7 |
637 |
| 2 |
1.89 |
2.92 |
4.30 |
9.92 |
31.6 |
| 3 |
1.64 |
2.35 |
3.18 |
5.84 |
12.9 |
| 4 |
1.53 |
2.13 |
2.78 |
4.60 |
8.60 |
| 5 |
1.48 |
2.02 |
2.57 |
4.03 |
6.86 |
| 6 |
1.44 |
1.94 |
2.45 |
3.71 |
5.96 |
| 7 |
1.42 |
1.90 |
2.36 |
3.50 |
5.40 |
| 8 |
1.40 |
1.86 |
2.31 |
3.36 |
5.04 |
| 9 |
1.38 |
1.83 |
2.26 |
3.25 |
4.78 |
| 10 |
1.37 |
1.81 |
2.23 |
3.17 |
4.59 |
| 11 |
1.36 |
1.80 |
2.20 |
3.11 |
4.44 |
| 12 |
1.36 |
1.78 |
2.18 |
3.06 |
4.32 |
| 13 |
1.35 |
1.77 |
2.16 |
3.01 |
4.22 |
| 14 |
1.34 |
1.76 |
2.14 |
2.98 |
4.14 |
| ∝ |
1.29 |
1.64 |
1.96 |
2.58 |
3.29 |
|
2-3-2. Q test
의심스러운 측정 값의 기각 판단에 이용하는 것으로, 아래와 같이 Qexp를
계산하고, 이 계산된 값과 측정횟수 및 신뢰 수준에 따라 주어진 Qcrt를 비교하여
기각 여부를 결정한다:
위 식에서 xi는 의심 값, x'는 이 의심 값과 가장 가까운 값이다.
Qcrt 값은 아래 표-3과 같이 주어진다
[표-3] 측정횟수와 신뢰 수준에 따른 Qcrt 값
| 측정횟수 |
Qcrt |
| 90 |
96 |
99 |
| 3 |
0.94 |
0.98 |
0.99 |
| 4 |
0.76 |
0.85 |
0.93 |
| 5 |
0.64 |
0.73 |
0.82 |
| 6 |
0.56 |
0.64 |
0.74 |
| 7 |
0.51 |
0.59 |
0.68 |
| 8 |
0.47 |
0.54 |
0.63 |
| 9 |
0.44 |
0.51 |
0.60 |
| 10 |
0.41 |
0.48 |
0.57 |
|
만일, Qexp > Qcrt이면 측정치를 기각하나,
그렇지 않다면 값의 차이가 불가측 오차에 의한 것이므로 보존하여야
한다
2-3-3. 영가설 검증(null hypothesis test)
측정 결과 사이의 차이는 모두 불가측 오차에 의한 것이라 가정하고, 이를 바탕으로
분석 결과를 검증하는 것
2-3-3-1. t 검증
측정치 xi와 참 값 μ 가 아래와 같은 관계를 만족하면,
 ,
주어진 신뢰 수준에서, xi의 측정에 가측 오차가 없다고 간주한다.
2-3-3-2. F 검증
F 검증(Fe test)는 같은 시료에 대한 서로 다른 두 분석 결과 묶음의
정밀도 차이가 존재하는지를 검증하는 것으로, 아래와 같은 식을 통해 계산된 Fexp
값을 주어진 신뢰도에 따른 임계값, Fcrt 와 비교하여 판단하는 방법이다.
위 식에서 s1과 s2는 각각 두 분석 묶음의 표준 편차를 나타내는 것으로,
이 계산에서 s1이 반드시 s2보다 커야 한다.
Fcrt은 두 묶음의 측정 횟수(보통의 경우 자유도 +1)에 따라서도 달라지는데, 아래 표-4에
95% 신뢰 수준에서의 값을 정리하였다.
[표-4] 95% 신뢰 수준에서의 자유도와 신뢰 수준에 따른
Fcrt 값
| 측정 자유도(분자) |
측정 자유도(분모) |
| 2 |
3 |
4 |
5 |
6 |
12 |
20 |
∝ |
| 2 |
19.00 |
19.16 |
19.25 |
19.30 |
19.33 |
19.41 |
19.45 |
19.0 |
| 3 |
9.55 |
9.28 |
9.12 |
9.01 |
8.94 |
8.74 |
8.66 |
8.53 |
| 4 |
6.94 |
6.59 |
6.39 |
6.26 |
6.16 |
5.91 |
5.80 |
5.63 |
| 5 |
5.79 |
5.41 |
5.19 |
5.05 |
4.95 |
4.68 |
4.56 |
4.36 |
| 6 |
5.14 |
4.76 |
4.53 |
4.39 |
4.28 |
4.00 |
3.87 |
3.67 |
| 12 |
3.89 |
3.49 |
3.26 |
3.11 |
3.00 |
2.69 |
2.54 |
2.30 |
| 20 |
3.49 |
3.10 |
2.87 |
2.71 |
2.60 |
2.28 |
2.12 |
1.84 |
| ∝ |
3.00 |
2.60 |
2.37 |
2.21 |
2.10 |
1.73 |
1.57 |
1.00 |
|
만일, Fexp < Fcrt이면 주어진 신뢰 수준에서 두 분석치 묶음
간에 정밀도의 차이가 없는 것이다.
|