[MSA 측정시스템] 측정의 기초부터 GRR까지

측정시스템용어의 정리 보러 가기

[JoPro의 품질 특강] MSA 완전 정복: 측정의 기초부터 GRR까지 

"팀장님, 측정값이 이상해요!" 신입 사원이 가장 많이 하는 말입니다. 하지만 그 '이상함'의 정체가 무엇인지 제대로 아는 사람은 드뭅니다. 장비 탓일까요? 사람 탓일까요? 아니면 애초에 기준이 잘못된 걸까요?

MSA(측정시스템분석) 매뉴얼 섹션 E는 바로 이 '이상함의 정체'를 밝히는 수사 기법을 다룹니다. 딱딱한 매뉴얼 속 용어들을 현장의 언어와 직관적인 그림으로 완벽하게 해부해 드립니다.

---

Part 1. 측정의 기초: 보이는 게 다가 아니다

측정기에 숫자가 떴다고 해서 그게 진실일까요? 품질 관리의 첫걸음은 '의심'에서 시작합니다. 우리가 믿고 있는 '값'의 실체부터 파헤쳐 봅시다.

1. 신의 영역(참값) vs 인간의 약속(기준값)

매뉴얼은 아주 철학적인 이야기를 던집니다. "참값은 결코 확실하게 알 수 없다."

• 참값 (True Value): 신만이 아는 완벽한 실제 값. 이론상으로만 존재하며, 인간은 절대 알 수 없습니다.
• 기준값 (Reference Value): 인간끼리 합의한 '정답'. 상위 마스터 장비로 여러 번 측정해서 얻은 평균값 등을 사용합니다.

💡 JoPro의 쉬운 예시: 금괴의 무게 한국은행 금고에 있는 금괴가 정말 딱 1kg일까요? 원자 단위로 따지면 1000.0000001g일 수도 있고, 999.9999999g일 수도 있습니다. 이게 바로 참값입니다. 하지만 우리는 정밀 저울로 잰 뒤 **"이건 1kg이다!"**라고 약속하고 거래합니다. 이게 기준값입니다. 현장에서도 '참값'을 찾으려 애쓰지 말고, 신뢰할 수 있는 '기준값'을 확립하는 것이 중요합니다.

2. 눈뜬장님 되지 않기 (분해능과 계단 현상)

아무리 시력이 좋은 사람도, 자의 눈금이 뭉툭하면 세밀한 차이를 읽을 수 없습니다. 측정기도 마찬가지입니다.

• 분해능 (Resolution / Discrimination): 측정기가 읽을 수 있는 최소 눈금 단위입니다.
• 계단 현상 (Staircase Effect): 분해능이 나쁘면 데이터가 어떻게 보일까요? 아래 그래프를 보세요.

[그림 1] 분해능 비교: 좋은 분해능(좌) vs 나쁜 분해능(우)

왼쪽 그래프처럼 데이터가 부드러운 종 모양(정규분포)을 그려야 정상입니다. 하지만 오른쪽처럼 계단 모양으로 뚝뚝 끊겨 있다면, 측정기 눈금이 너무 커서 미세한 변화를 뭉개버리고 있다는 뜻입니다. 이런 측정기로는 공정 능력을 분석할 수 없습니다.

• 1/10의 법칙: 측정기 눈금은 우리가 관리하려는 공차(Spec)의 1/10보다 작아야 합니다. (예: 공차가 0.1mm면, 측정기는 최소 0.01mm 단위여야 함)
• ndc (구별 범주 수): 데이터를 최소한 5등급 이상으로는 나눌 수 있어야 합니다. (예: 성적표가 '합격/불합격'만 나오면 분석이 불가능하지만, 'A, B, C, D, F'로 나오면 내 위치를 알고 공부 계획을 짤 수 있습니다.)

---

Part 2. 정확도(Accuracy): 가늠자가 삐뚤어졌다

Part 2는 사격으로 치면 '가늠자(영점)'가 잘못된 상황입니다. 아무리 사격 실력이 좋아도 가늠자가 휘어 있으면 10점을 맞출 수 없죠. 이것을 **위치 변동(Location Variation)**이라고 합니다.

1. 정확도 vs 정밀도: 과녁 맞히기

이 둘을 헷갈리면 현장에서 대화가 안 됩니다. 아래 과녁 그림으로 완벽하게 정리합시다.

[그림 2] 정확도와 정밀도의 비교

     정확도 (Accuracy): 탄착군의 평균 위치가 과녁 정중앙(기준값)에 얼마나 가까운가? (영점 문제)

     정밀도 (Precision): 탄착군이 얼마나 바둑알처럼 모여 있는가? (실력 문제)

우리가 목표로 하는 것은 오른쪽 위(High Accuracy, High Precision) 상태입니다. 만약 왼쪽 위(Low Accuracy, High Precision)처럼 탄착군은 모여 있는데 중앙에서 벗어나 있다면? 실력은 좋은데 영점이 틀어진 것이니, 영점 조절만 하면 해결됩니다.

2. 편의 (Bias): 한쪽으로 쏠림

정확도가 나쁜 가장 대표적인 경우가 바로 편의(Bias) 입니다. 데이터의 평균이 기준값(참값)과 차이 나는 현상이죠.

[그림 3] 편의(Bias)의 개념: 치우침 발생

 

그래프를 보면, 원래는 점선(기준값)에 중심이 있어야 하는데, 실제 측정값의 분포 곡선(Biased Measurement)이 오른쪽으로 치우쳐 있죠? 이 차이만큼 이 편의입니다.

💡 JoPro의 쉬운 예시: 고장 난 체중계 내가 70kg인데 체중계가 항상 72kg을 가리킵니다. 이건 고장 난 게 아니라 "+2kg의 편의"가 있는 겁니다. 영점 조절 나사만 돌려서 -2kg 해주면 해결됩니다.

3. 선형성 (Linearity): 고무줄 자

측정 범위 전체에서 편의가 일정하지 않은 경우입니다. 특정 구간에서는 정확한데, 크기가 커지거나 작아지면 오차가 생기는 현상이죠.

💡 JoPro의 쉬운 예시: 마트 저울 가벼운 사과(300g)를 잴 때는 정확한데, 무거운 쌀포대(20kg)를 올리니 오차가 1kg이나 납니다. 이렇게 구간별로 측정기의 정확도가 다르다면 '선형성'이 나쁜 겁니다.

4. 안정성 (Stability): 변덕쟁이

시간이 흐름에 따라 측정값의 평균이나 변동이 변하는 현상입니다.

[그림 4] 안정성 관리도: 시간의 흐름에 따른 변화

 

관리도(Control Chart)를 보면, 처음(Time 1)에는 평균선 주변에 잘 모여 있던 점들이, 시간(Time 2)이 지나면서 점점 위로 올라가는 추세(Drift)를 보입니다.

💡 JoPro의 쉬운 예시: 열받은 기계 아침 9시엔 합격이었는데, 기계가 뜨거워진 오후 3시에 재니 불량으로 나옵니다. 환경(온도) 변화에 버티지 못하는, '안정성' 없는 장비의 전형적인 모습입니다.

---

Part 3. 정밀도와 GRR: 총체적 난국을 해결하라

Part 3는 사격으로 치면 '사격 실력(정밀도)'이 엉망이라 탄착군이 사방으로 퍼지는 문제입니다. 이것을 **너비 변동(Width Variation)**이라고 하며, 현장에서 가장 많이 싸우는 주제인 GRR(Gage R&R)의 핵심입니다.

1. 반복성 vs 재현성: 범인 찾기

데이터가 퍼지는(정밀도가 나쁜) 원인은 딱 두 가지입니다.

[그림 5] 반복성과 재현성의 비교

 

• 반복성 (Repeatability, EV): 장비 탓
  • 상황: [나 혼자 + 같은 부품]을 여러 번 쟀는데 값이 오락가락함.
  • 그래프(왼쪽): 한 사람이 쟀는데도 종 모양이 뚱뚱하게 퍼져 있음.
  • 원인: 장비 노후화, 고정 지그 흔들림 등.
• 재현성 (Reproducibility, AV): 사람 탓
  • 상황: [나랑 김 대리]가 쟀는데 서로 평균값이 다름.
  • 그래프(오른쪽): 작업자 A, B, C의 그래프 중심(평균)이 서로 다름.
  • 원인: 측정하는 사람의 스타일 차이, 표준(SOP) 미준수

2. 반복성 (Repeatability, EV) - "장비가 오락가락"

정의: [1명의 작업자 + 1개의 부품 + 1개의 계측기]로 반복해서 쟀는데 값이 달라짐.

🏠 [생활 밀착 예시] : 거짓말쟁이 체중계

• 상황: 목욕탕 탈의실에서 체중계에 올라갔습니다. 75.0kg이 나왔습니다.
• "에이, 설마?" 하고 내려왔다가 3초 뒤에 다시 올라갔는데 74.5kg이 나옵니다.
• 또 내려왔다 다시 올라가니 이번엔 75.2kg이 나옵니다.
• 진단: 나(측정자)도 그대 로고, 내 몸(측정 대상)도 그대로인데, 체중계(장비) 혼자 널뛰기를 하고 있습니다. 이게 바로 **반복성(장비 변동)**이 나쁜 경우입니다.

🚗 [자동차 현장 예시] : 엔진 피스톤 외경 측정

• 상황: 신입 사원 김 군이 마이크로미터로 피스톤 외경을 잽니다.
• 첫 번째 측정: 50.005mm (OK)
• 두 번째 측정: 50.012mm (NG??)
• 세 번째 측정: 50.003mm (OK??)
• 진단: 김 군이 잡는 위치도 똑같았는데 값이 튀는 상황입니다. 마이크로미터의 영점이 흔들리거나, 측정면이 마모되어 장비 자체가 불안정한 상태입니다. 작업자를 혼낼 게 아니라 장비 수리를 맡겨야 합니다.

---

3. 재현성 (Reproducibility, AV) - "사람마다 딴소리"

정의: [여러 명의 작업자]가 같은 부품을 쟀는데 서로 평균값이 다름.

🏠 [생활 밀착 예시] : 엄마의 라면 vs 아빠의 라면

• 상황: 집에 있는 똑같은 냄비, 똑같은 가스레인지, 똑같은 '신라면'을 끓입니다.
• 엄마: 물을 정량으로 넣고 4분간 끓여서 **'완벽한 맛'**이 나옵니다.
• 아빠: 물을 대충 넣고 센 불에 3분만 끓여서 **'싱겁고 설익은 맛'**이 나옵니다.
• 진단: 장비(냄비, 라면)는 죄가 없습니다. **조리하는 사람(작업자)**의 스타일 차이 때문에 결과가 달라진 것입니다. 이게 바로 재현성(사람 변동) 문제입니다. 레시피(표준) 교육이 필요합니다.

🚗 [자동차 현장 예시] : 도어 단차(Gap) 측정의 비극

• 상황: 자동차 문짝 틈새(단차)를 갭 게이지(Gap Gage)로 측정합니다.
• 고객 품질팀 : "이거 3.5mm 나오는데요? 스펙 오버니까 불량 반품합니다."
• 협력사 품질팀 : "아니, 저희가 쟀을 땐 3.0mm로 합격이었는데요?"
• 진단: 서로 같은 차, 같은 게이지를 썼는데 값이 다릅니다.
  • 우리 팀: 게이지를 틈새에 꽉 끼게 넣어서 쟀음.
  • 협력사: 게이지를 살살 넣어서 쟀음.
• 해결: 이건 장비 문제가 아닙니다. "게이지를 어느 정도 힘으로 밀어 넣을 것인가?"에 대한 작업 표준(SOP)이 통일되지 않아서 생긴 재현성(사람 간 차이) 문제입니다. 만나서 측정 방법을 통일해야 해결됩니다.

 

4. 마법의 공식: GRR = 장비 + 사람

MSA의 핵심 공식은 이겁니다. GRR(Gage R&R) 은 장비 탓(반복성)과 사람 탓(재현성)을 합친, 측정 시스템의 총체적 변동입니다.

 

​

[JoPro의 수학 교실] GRR 공식, "소음의 합"으로 이해하라!

MSA 매뉴얼에 나오는 무시무시한 이 식, 사실은 "범인 찾기" 공식입니다.

sigma^2_{GRR} = sigma^2_{reproducibility} + sigma^2_{repeatability}sigma^2 (시그마 제곱):
'분산(Variance)'을 뜻합니다. 쉽게 말해 "얼마나 오락가락하는가?"(변동의 크기)입니다.
GRR: 측정 시스템 전체의 변동 (우리가 느끼는 총 오차).
Reproducibility (재현성): 사람(측정자) 때문에 생긴 변동.
Repeatability (반복성): 기계(장비) 때문에 생긴 변동.

1. 직관적인 비유: "노래방의 소음"

여러분이 노래방에서 노래를 녹음했다고 칩시다. 그런데 녹음된 파일을 들어보니 잡음(Noise)이 너무 심해서 목소리가 잘 안 들립니다. 이 잡음은 어디서 왔을까요?
마이크 자체의 지지직거림 (기계 탓 = 반복성):
아무리 가만히 있어도 마이크가 낡아서 "지지직" 소리가 납니다. 이건 누가 불러도 똑같이 나는 소리죠.
이것이 바로 sigma^2_{repeatability} (장비 변동)입니다.
사람의 숨소리와 잡담 (사람 탓 = 재현성):
김 대리는 마이크를 너무 가까이 대서 "푸하... 푸하..." 숨소리가 들어가고, 이 과장은 마이크를 멀리 떼서 주변 잡담이 들어갑니다.
사람마다 마이크 쓰는 습관이 달라서 생기는 잡음입니다.
이것이 바로 sigma^2_{reproducibility} (사람 변동)입니다.
결과물 (총 변동 = GRR):우리가 듣는 최종 잡음은 "마이크 지지직 소리" + "사람 숨소리"가 합쳐진 것입니다.
즉, [총 잡음] = [기계 잡음] + [사람 잡음]

핵심: "이 측정값이 오락가락하는 이유는, 기계가 떨리는 것과 사람이 다르게 재는 것이 합쳐졌기(Plus) 때문이다."

2. 왜 그냥 더하지 않고 '제곱'을 할까? (피타고라스의 정리)

신입 사원이 꼭 묻습니다. "팀장님, 그냥 sigma_{GRR} = sigma_{사람} + sigma_{기계}하면 안 됩니까? 왜 귀찮게 제곱을 합니까?"

이건 "오차는 서로 독립적이라서 직각으로 만난다"는 통계학적 원리 때문인데, 말로 하면 어렵습니다. 직각삼각형 그림 하나면 끝납니다.
밑변 : 장비 변동 (Repeatability)
높이 : 사람 변동 (Reproducibility)
빗변 : 총 변동 (GRR)

피타고라스 정리 아시죠? a^2 + b^2 = c^2$

오차의 세계에서는 단순히 1+1=2가 아니라, 이렇게 제곱의 합으로 커집니다. 그래서 식에 제곱(^2) 이 붙어 있는 겁니다.

3. 이 식을 알면 '해결책'이 보인다

이 식이 중요한 이유는, 범인을 잡아서 해결하는 순서를 알려주기 때문입니다.

Case A: 기계 탓이 클 때 (sigma^2_{repeatability}가 큼)
상황: 식을 계산해 보니 반복성 수치가 엄청 높음.
해석: "사람은 잘못 없어. 김 대리가 재든 이 과장이 재든, 다 똑같이 엉망으로 나와."
JoPro의 처방: "작업자 혼내지 마라. 장비가 낡았거나 고정지그(Jig)가 흔들리는 거다. 장비를 수리하거나 새 걸로 바꿔!"

Case B: 사람 탓이 클 때 (sigma^2_{reproducibility}가 큼)
상황: 식을 계산해 보니 재현성 수치가 높음.
해석: "장비는 멀쩡해. 근데 김 대리는 10mm라 하고, 이 과장은 10.5mm라고 하네?"
JoPro의 처방: "돈 써서 장비 바꾸지 마라. 돈 낭비다. 작업 표준(SOP) 다시 만들어서 측정 방법 교육시켜!"

 

---

에필로그. JoPro의 마지막 잔소리

1. 능력(Capability) vs 성능(Performance): 오늘 하루 컨디션 좋아서 GRR 합격했다고 안심하지 마세요. 그것이 1년 내내 유지되는지(성능) 지켜보는 게 엔지니어의 임무입니다.
2. 불확도(Uncertainty): 우리는 신이 아닙니다. 측정값은 항상 "10.0mm ± 0.005mm"처럼 오차 범위(불확도)를 가지고 있다는 것을 명심하세요.
3. 범인 찾기: GRR 결과가 나쁘면 무턱대고 작업자를 혼내거나 새 장비를 사달라고 조르지 마세요. 반복성 수치가 높은지, 재현성 수치가 높은지 따져보고 진짜 원인을 해결해야 합니다.
4. "반복성이 나쁘면 '장비'를 의심하고, 재현성이 나쁘면 '표준(SOP)'을 의심하라." 이것만 기억해도 현장 문제의 80%는 해결됩니다.

이 자료가 여러분을 '측정의 늪'에서 구해줄 동아줄이 되길 바랍니다. 파이팅! - JoPro 드림 -