공간의 변환과 분해: SVD(Singular Value Decomposition)
공간의
변환과 분해:
SVD(Singular Value Decomposition)
"모든 행렬은 회전, 확대, 그리고 다시 회전의 결합으로 설명될 수 있습니다."
[10년 차 몬이 샘의 교실 이야기: 정보의 핵심]
"선생님, 이 사진 용량이 너무 커서 전송이 안 돼요. 화질은 비슷하면서 용량만 줄일 수는 없나요?"
이미지 파일을 다루는 학생의 질문에 저는 칠판 가득 숫자가 적힌 커다란 행렬을 하나 그렸습니다.
"얘들아, 이 행렬이 바로 사진이야. 수만 개의 숫자가 들어있지. 하지만 이 중에는 정말 중요한 숫자도 있지만, 없어도 사진을 알아보는 데 지장이 없는 사소한 숫자들도 있단다. SVD는 이 거대한 행렬에서 '핵심 뼈대'만 골라내는 기술이야. 뼈대만 남기고 나머지를 버리면, 용량은 10분의 1이 되면서도 우리 눈엔 똑같은 사진처럼 보이게 되지."
수학이 단순히 추상적인 기호가 아니라, 우리가 매일 사용하는 스마트폰 안에서 정보를 선별하고 압축하는 '필터'라는 사실을 깨닫는 순간, 수학을 대하는 아이들의 태도는 완전히 달라집니다.
01 특잇값 분해의 정의: $A = U\Sigma V^T$
고유값 분해(Eigendecomposition)가 정사각 행렬에서만 가능하다면, 특잇값 분해(SVD)는 모든 $m \times n$ 행렬에 대해 정의될 수 있는 가장 일반화된 행렬 분해 기법입니다.
$A = U \Sigma V^T$
($U, V$: 직교 행렬/회전 변환, $\Sigma$: 대각 행렬/크기 변환)
임의의 행렬 $A$는 공간을 회전시키는 $V^T$, 축 방향으로 확대 또는 축소하는 $\Sigma$, 그리고 다시 회전시키는 $U$의 순차적인 결합으로 이해할 수 있습니다.
02 구(Sphere)에서 타원(Ellipse)으로의 변환
기하학적으로 SVD는 $n$차원 공간의 단위 구(Unit Sphere)가 선형 변환 $A$를 통해 $m$차원 공간의 초타원(Hyper-ellipse)으로 변형되는 과정을 설명합니다.
- ● 특잇값($\sigma_i$): 타원의 각 주축(Principal Axis)의 길이를 나타냅니다. 값이 클수록 해당 방향으로 데이터의 분산이 큼을 의미합니다.
- ● 왼쪽 특이 벡터($u_i$): 변환된 타원의 축 방향을 결정합니다.
- ● 오른쪽 특이 벡터($v_i$): 변환 전 단위 구에서 타원의 축으로 매핑될 방향을 결정합니다.
ARCHIVE CLOSED: 복잡함 속의 단순함
SVD는 수많은 데이터가 얽혀 있는 복잡한 행렬 속에서 가장 의미 있는 정보(축)가 무엇인지 우리에게 알려줍니다. 정보의 홍수 속에서 본질을 꿰뚫어 보는 이 수학적 혜안은 현대 인공지능이 세상을 이해하는 방식과 닮아 있습니다. 오늘 정리한 특잇값 분해의 원리가 여러분의 세특 보고서에 '데이터 사이언스의 수학적 기초'라는 전문성을 더해주길 바랍니다. 10년 차 몬이 샘은 여러분이 수학이라는 도구로 세상의 거대한 데이터를 압축하고 본질을 추출하는 인재가 되길 응원합니다!