에듀 마스터 몬이의 공부 비책: 고1 수학 경우의 수와 순열·조합, 공식 암기 멈추고 '서랍장 줄 세우기'부터 떠올려야 하는 이유 (10년 차 몬이쌤 비책)

'경우의 수 순열과 조합, P와 C를 구별하는 타임라인 서랍장 시각화 가이드' 문구가 빛나는 레이저 화면에 강조된 배경에서 네이비 블루 블레이저 차림의 몬이쌤이 스마트하게 수학 학습 노하우를 안내하는 대표 썸네일 이미지입니다.

복잡한 수식 속에 숨겨진 선택의 구조를 아이들의 눈높이에 맞게 직관적으로 풀어드리는 10년 차 수학 교육 전문가 몬이쌤(권다영)입니다.

며칠 전 주말, 연세가 있으신 친정엄마와 함께 안방 서랍장을 정리하던 때의 일입니다. 엄마께서 양말과 속옷이 섞여 있는 칸을 보시더니 "다영아, 알록달록한 양말 5개 중에서 오늘 넣을 3개를 고르는 건 순서가 필요 없지만, 위쪽 첫 번째, 두 번째, 세 번째 서랍 칸에 순서대로 착착 넣을 때는 차례를 잘 정해야 헷갈리지 않는다" 하고 말씀하셨지요. 그 순간, 제가 교실 현장에서 아이들과 늘 씨름하던 고등학교 1학년 2학기 수학(하)의 마지막 단원, '경우의 수(순열과 조합)'가 머릿속을 스쳐 지나갔습니다. 단순히 개수를 세는 것을 넘어, 순서를 고려하여 줄을 세울 것인가(

nPr

) 아니면 순서 없이 무더기로 대표만 뽑을 것인가(

nCr

)를 판단하는 일상의 지혜가 바로 이 단원의 본질이니까요.

"선생님, P를 써야 할지 C를 써야 할지 문제만 보면 멍해져요"

고등학교 1학년 2학기 수학(하)의 마지막에 다다르면, 아이들은 nPr = n! / (n-r)! 이나 nCr = n! / {r!(n-r)!} 같은 팩토리얼(!) 수식 기호의 폭탄을 맞게 됩니다. 수식 계산 자체는 연산만 하면 되니 쉬워 보이지만, 막상 문장제 기출문제를 풀면 오답률이 급증하곤 합니다.

가장 흔하게 겪는 시행착오는 문제에 나온 힌트 단어만 보고 감으로 P와 C를 찍어서 푸는 것입니다. 저 역시 초보 교사 시절에는 "자, 반장·부반장처럼 직책이 다르면 P를 쓰고, 주번 2명처럼 계급이 같으면 C를 쓰면 돼!"라며 단편적인 팁 위주로 가르쳤던 적이 있었습니다. 하지만 결과는 아쉬웠습니다. '특정한 사람이 인접하여 서는 경우'나 '적어도 한쪽 끝에 남학생이 오는 경우'처럼 조건이 꼬인 킬러 문항을 마주하면 아이들은 순서의 유무를 스스로 판단하지 못하고 기호 선택 앞에서 손을 덜덜 떨곤 했습니다.

수식 기호를 내려놓고 '타임라인 서랍장'으로 시작하는 시각화

기호 암기에 지친 아이들에게 필요한 것은 억지스러운 팩토리얼 계산이 아니라, 뽑는 과정의 순서를 눈으로 확인하는 '시간적 흐름(타임라인) 시각화'입니다.

이전에 작성했던 고1 수학(하) 유리·무리함수 점근선 시각화 가이드 글에서도 강조했듯이, 수학의 어려운 개념은 기호 뒤에 숨은 기하학적·공간적 위치를 눈으로 볼 때 가장 명쾌해집니다. 경우의 수도 마찬가지입니다. 아이들에게 하얀 연습장을 쥐여주고 빈 서랍장 칸 3개를 그리게 해보세요. "첫 번째 자리에 들어갈 사람을 뽑고, 동시에 두 번째, 세 번째 자리를 순서대로 채워나가는 사건"이라면 사건이 연달아 일어나므로 곱의 법칙과 순열(nPr)을 적용하게 됩니다. 반면, 주머니 속에 3명을 한꺼번에 담아 올리는 상황이라면 순서 구분이 사라지므로 중복 계산된 순서만큼 나누어주는 조합(nCr)의 구조가 선명하게 드러납니다.

스스로 순서의 유무를 판별해 내는 감동의 순간

실제로 경우의 수 문제만 나오면 P와 C 기호를 번갈아 쓰며 갈팡질팡하던 한 학생이 있었습니다. 저는 그 친구에게 기호 공식을 쓰지 못하게 하고, 색깔 구슬 4개 중에서 2개를 뽑아 일렬로 늘어놓는 그림과 주머니에 담는 그림을 직접 그리게 했습니다.

구슬의 자리가 바뀌었을 때 결과가 달라지는 '순열'과, 자리가 바뀌어도 결국 주머니 속 구성품이 똑같은 '조합'의 차이를 눈으로 직접 확인한 아이의 얼굴이 밝아졌습니다. "선생님! 순서가 의미 있는 자리는 칸을 만들어 곱해주면 되고, 순서가 상관없으면 자리 바꿈 가짓수만큼 나누어주면 되는 거였네요! 공식을 외우지 않고 그림으로 그리니까 P랑 C가 왜 생겼는지 한눈에 보여요!" 수식에 갇혀있던 아이가 직관적인 매핑을 통해 경우의 수 전체의 논리 구조를 스스로 관통해 낸 가슴 벅찬 순간이었습니다.

결론: 확률과 통계로 연결되는 진짜 수학적 사고력

학부모님, 아이가 수학(하) 문제집을 풀다가 순열과 조합 기호 앞에서 멍하니 멈춰 서 있다면, "이 쉬운 기호 구분도 못 하냐"며 다그치지 말아주세요. 대신 아이 손에 색펜을 쥐여주고 "서랍장 칸을 만들어서 순서대로 넣어볼까, 아니면 큰 주머니에 한꺼번에 담아볼까?" 하고 따뜻한 질문을 던져주세요. 단순 기호 대입을 넘어 선택의 구조와 순서의 유무를 관찰하는 내공을 갖게 될 때, 고2·고3 때 만날 '확률과 통계'의 조건부확률과 통계적 추정까지 단단하게 뚫어내는 진짜 수학 체력이 완성됩니다.