며칠 전 주말, 연세가 있으신 친정엄마를 모시고 가족들과 함께 동네 원형 식탁이 있는 중식당에서 저녁 식사를 할 때의 일입니다. 동그란 원탁 둘레에 의자 5개가 놓여 있었는데, 엄마께서 자리에 앉으시며 "다영아, 이 동그란 식탁은 어디가 상석이고 어디가 끝자리인지 구분이 안 가는구나. 내가 어디 앉든 식탁을 스르륵 돌려버리면 다 똑같은 자리가 되어버리네!" 하고 말씀하셨지요. 그 순간, 제가 교실 현장에서 아이들과 늘 씨름하던 선택과목 확률과 통계(확통)의 첫 관문, '원순열(Circular Permutation)' 단원이 머릿속을 스쳐 지나갔습니다. 기준이 정해지지 않은 원형 구조에서 회전하여 같은 위치 관계를 하나로 묶어내는 순열의 기하학적 본질이 엄마의 말씀 속에 완벽히 담겨 있었으니까요.
"선생님, n!에서 왜 n을 나누나요? 공식 (n-1)!만 외우면 안 되나요?"
"선생님, n!에서 왜 n을 나누나요? 공식 (n-1)!만 외우면 안 되나요?"
고등학교 과정에서 확률과 통계를 선택한 아이들이 첫 단원 '여러 가지 순열'에 진입하면, 원순열 공식 (n-1)! 혹은 n!/n 앞에서 첫 번째 혼란을 경험합니다.
가장 흔하게 겪는 시행착오는 회전의 의미를 떠올리지 않은 채, 공식 (n-1)!에만 기계적으로 숫자를 대입하여 계산하는 것입니다. 저 역시 초보 교사 시절에는 "자, 원탁에 둘러앉을 때는 무조건 1을 뺀 다음 팩토리얼(!)을 붙이면 돼!"라며 공식 암기 위주로 가르쳤던 적이 있었습니다.
하지만 결과는 속상했습니다. 원탁이 아니라 '정삼각형 식탁'이나 '직사각형 식탁'에 앉히는 응용 문제가 나오거나, '남녀가 교대로 앉는 조건'이 붙으면 공식이 막히면서 아이들이 멘붕에 빠졌기 때문입니다.
공식 대입을 내려놓고 '기준점 1명 고정하기'로 시작하는 시각화
기계적인 공식 암기에 지쳐 응용 문제에서 오답을 내는 아이들에게 필요한 것은 억지스러운 계산이 아니라, '첫 번째 사람의 기준 고정 시각화'입니다.
순열의 핵심은 '구분되는 자리에 줄을 세우는 것'입니다. 하지만 빈 원탁은 모든 자리가 똑같기 때문에, 첫 번째 사람이 어디에 앉든 경우의 수는 '1가지(기준 형성)'일 뿐입니다. 아이들에게 연습장에 동그라미를 그리게 한 뒤, 가장 먼저 1명을 아무 자리에 앉혀 기준(깃발)을 꼽게 해주세요.
한 사람이 기준을 잡고 앉는 순간, 나머지 의자들은 그 사람의 '왼쪽 1번 자릿수', '맞은편 자리'처럼 서로 다른 구체적인 주소지를 갖게 되므로 나머지 사람들은 그냥 일렬로 줄을 서는 (n-1)!이 된다는 원리를 확인시키는 것이 핵심입니다.
스스로 '탁자 모양에 따른 기준 자리의 개수'를 찾아내는 감동의 순간
실제로 정사각 식탁에 8명을 앉히는 문제에서 무작정 (8-1)! = 7! 로 계산해 오답을 내던 한 학생이 있었습니다. 저는 그 친구에게 식을 지우지 못하게 하고, 텅 빈 정사각 식탁 그림을 그린 뒤 "네가 가장 먼저 들어가서 앉을 때, 회전해서 같지 않은 서로 다른 느낌의 자리가 몇 개 있는지" 색칠해 보게 했습니다.
한 변에 2명씩 앉는 정사각 식탁에서는 '모서리 왼쪽 자리'와 '모서리 오른쪽 자리'라는 완전히 다른 2가지 느낌의 기준 자리가 존재한다는 것을 눈으로 확인한 아이의 표정이 몰라보게 밝아졌습니다.
"선생님! 무조건 1을 빼는 게 아니라, 첫 번째 사람이 앉을 수 있는 '서로 다른 기준 자리의 가짓수'를 먼저 구하고 나머지를 줄 세우는 거였네요! 원탁은 기준 자리가 1개뿐이니까 (n-1)! 이 되었던 거군요! 식탁 모양이 바뀌어도 기준점만 찍으니까 3초 만에 풀려요!" 수식의 늪에 빠져있던 아이가 직관적인 기준 고정 모델을 통해 확통 첫 단원의 핵심 뼈대를 스스로 관통해 낸 가슴 벅찬 순간이었습니다.
결론: 중복순열과 같은 것이 있는 순열로 직진하는 확통 체력
아이가 확률과 통계 문제집을 풀다가 원순열이나 식탁 응용 문제 앞에서 지쳐 멈춰 서 있다면, "이 쉬운 공식 하나도 못 적용하냐"며 다그치지 말아주세요. 대신 아이 손에 색펜을 쥐여주고 "첫 번째 친구가 앉을 수 있는 구별되는 기준 자리가 몇 개인지 식탁 위에 찍어볼까?" 하고 따뜻한 질문을 던져주세요. 단순 공식 암기를 넘어 회전의 대칭성과 기준 고정의 논리를 관찰하는 눈을 갖게 될 때, 앞으로 배울 중복순열, 같은 것이 있는 순열, 그리고 수능 확통 킬러 문항인 조건부확률과 빈도 추론 문제까지 단단하게 뚫어내는 진짜 수학 체력이 완성됩니다.