앞의 두 글에서 outer product 가 "(a, b) 자리만 1 인 행렬" 이라는 점, 그리고 deterministic operation 의 행렬은 "각 column 에 정확히 하나의 1" 이라는 사실을 확인했습니다. 이번 노트에서는 이 둘을 합쳐 deterministic operation 을 Dirac 한 줄 식으로 적고, 그 위에 무작위성 을 얹은 probabilistic operation 으로 넘어갑니다.
Deterministic Operation 을 Dirac 한 줄로
함수 의 행렬은 다음 한 줄 식으로 정확히 표현됩니다.
각 항 가 자리에 1 표시기 이고, 모든 에 대해 합치면 column 마다 정확히 한 자리에 1 이 박힙니다. 앞 글의 4가지 bit 함수 행렬이 그대로 재현됩니다.
이 식이 정말 정의대로 작동하는지를 한 줄 계산으로 확인해 봅시다.
행렬 곱의 결합 법칙을 쓰면 라는 한 줄의 사실에 의해 인 항만 살아남고 나머지는 전부 으로 사라집니다. outer product 표기의 위력이 이 한 줄에 응축되어 있습니다.
무작위성을 얹으면 Probabilistic Operation
deterministic operation 은 입력이 정해지면 출력이 결정적입니다. 그러나 현실에서는 "입력이 0 이면 가만히 두고, 입력이 1 이면 절반의 확률로 뒤집는다" 같은 무작위 동작도 있습니다. 이런 동작을 행렬로 어떻게 적을지 생각해 봅시다.
위 예시를 정확히 표 형태로 정리하면:
| 입력 | 출력이 0 일 확률 | 출력이 1 일 확률 |
|---|---|---|
이걸 행렬로 옮기되, column 0 = 입력 0 의 출력 분포, column 1 = 입력 1 의 출력 분포 가 되도록 적습니다.
각 column 의 entry 합이 이고 모든 entry 가 음이 아닌 행렬을 stochastic matrix (정확히는 column-stochastic) 라 부릅니다.
probabilistic operation stochastic matrix
두 조건: 모든 entry , 각 column 합 .
각 column 자체가 입력이 그 인덱스일 때 출력의 probability vector 라는 점이 핵심입니다. 그래서 column 합 이라는 조건은 어떤 입력에 대해서도 출력 확률 합 이라는 자연스러운 요구일 뿐입니다.
Probability vector 위에 적용
probability vector 에 을 적용해 봅시다.
해석하면, 처음에 일 확률이 였는데, 그 절반이 flip 되어 으로 돌아오면서 이 에서 로 증가합니다. 직관과 일치합니다.
Stochastic Matrix 인지 판정해보기
다음 행렬이 valid stochastic matrix 인지 봅시다.
column 합을 계산하면 첫 번째 column 은 , 두 번째 column 은 . 첫 번째 column 의 합이 이 아니므로 stochastic matrix 가 아닙니다. 모든 entry 가 음이 아닌 조건은 만족하지만 column 합 조건이 깨졌습니다.
판정 절차로 적자면 (1) 모든 entry 가 인지, (2) 각 column 합이 인지를 차례로 확인하면 끝입니다.
Convex Combination 분해
stochastic matrix 는 사실 deterministic matrix 들의 가중 평균 (convex combination) 으로 항상 표현 가능합니다.
해석은 더 단순합니다. 여러 deterministic 함수 중 하나를 확률 로 골라 적용 하는 것과 정확히 같은 동작입니다.
위 예시 을 두 deterministic 의 평균으로 적어 봅시다.
여기서 은 항상 0 으로 보내는 constant 함수, 는 identity 입니다. 즉 절반의 확률로 모든 입력을 0 으로 짜내고, 절반의 확률로 그대로 둔다 는 동작이 곧 위 과 같습니다.
분해를 검산하면:
정확히 입니다. probabilistic operation 의 본질이 결국 deterministic 들 사이의 가중 평균 이라는 사실은 직관적으로 강력합니다. "어떤 동작을 할지 동전을 굴려 정한다" 는 시점이 행렬에 그대로 남는 셈입니다.
한 가지 짚어둘 점. 이 분해는 유일하지 않습니다. 같은 stochastic matrix 를 다른 deterministic 조합과 다른 가중치로 적을 수도 있습니다. 다만 어떤 분해는 항상 존재합니다.
이걸 배우는 이유
여기까지 읽고 왜 굳이 deterministic 만 두지 않고 일반화하는가 라는 질문이 자연스럽게 떠오릅니다. 네 가지 정도로 정리됩니다.
1. 현실의 시스템은 무작위입니다
deterministic operation 만으로 모델링되는 실제 시스템은 거의 없습니다. 거의 모든 동작에 불확실성 이 끼어듭니다.
| 도메인 | 무작위 동작 예 |
|---|---|
| 통신 | 비트가 잡음으로 인해 확률 로 뒤집힘 (noisy channel) |
| 알고리즘 | 무작위 hash, MCMC, simulated annealing |
| 금융 | 주가가 다음 step 에 어디로 갈지에 대한 확률 분포 |
| 물리 | 측정, 열적 노이즈, decoherence |
| AI | dropout, sampling, 확률적 정책 (policy) |
이런 동작을 수학적으로 정확히 적으려면 "각 입력이 어떤 출력 분포로 가는가" 를 행렬로 적어야 하고, 그 행렬이 stochastic matrix 입니다.
2. Markov Chain 이 정확히 이 형태입니다
stochastic matrix 는 추상적 도구가 아니라 Markov chain 이라는, 광범위하게 쓰이는 프레임워크 그 자체입니다. 한 가지 친숙한 예로 Apple iPhone 과 Samsung Galaxy 의 시장 점유율 을 적어 봅시다.
mermaid 로드 중…
상태 두 개 (Apple, Samsung) 사이의 전이 확률입니다.
- 이번 달 Apple 사용자 → 다음 달 Apple 유지 확률 , Samsung 으로 갈 확률
- 이번 달 Samsung 사용자 → 다음 달 Apple 로 갈 확률 , Samsung 유지 확률
이걸 행렬로 옮기되 column 인덱스 = 현재 상태, row 인덱스 = 다음 상태 가 되도록 적습니다.
각 column 의 합은 (현재 어느 상태에 있든 다음 달에 어디든 가야 하니까), 모든 entry . 정확히 column-stochastic matrix 입니다.
이번 달 점유율을 vector 로 적으면:
다음 달 점유율은 행렬 곱 한 번으로 계산됩니다.
전이 확률을 한 번 적용하니 Apple 점유율이 에서 로, Samsung 은 에서 로 움직입니다. 이걸 매월 반복하면 장기 점유율 (steady state) 까지 자연스럽게 따라옵니다.
같은 framework 가 PageRank (웹페이지가 다음 step 에 어디로 갈 확률), 큐잉 시스템, 강화학습 정책 평가에 그대로 등장합니다. 이름은 다 다르지만 코어는 stochastic matrix 와 그 위의 vector 곱 입니다.
3. Quantum 측정 자체가 본질적으로 확률적입니다
quantum state 을 측정하면 결과가 일 확률이 , 일 확률이 로 측정 결과는 확률 분포로 나옵니다. quantum gate 자체는 deterministic (unitary) 이지만, 측정 단계에서 확률이 끼어듭니다.
그 결과 분포를 다루려면 확률 vector + stochastic 연산 framework 이 반드시 필요합니다. quantum 알고리즘을 분석한다는 건 결국 확률 분포 위의 동작 을 정밀하게 따지는 일이기 때문입니다.
4. Quantum 으로 가는 직전 디딤돌입니다
이게 학습 경로의 핵심 이유입니다. 두 framework 의 골격은 거의 같습니다.
| Probabilistic | Quantum | |
|---|---|---|
| state | probability vector | amplitude vector |
| entry | 확률 () | amplitude (복소수) |
| 정규화 | ||
| operation | stochastic matrix | unitary matrix |
| operation 조건 | column 합 , entry | (column orthonormal) |
probabilistic 단계를 정착하지 않고 곧장 quantum 으로 가면, 어느 게 quantum 만의 새로움이고 어느 게 그냥 "확률 위에 정의된 시스템" 의 자연스러운 결과인지 가 흐려집니다. 예를 들어 이라는 조건도 어떤 측정에 대해서도 결과 확률 합이 이라는 점에서 stochastic matrix 의 column 합 과 같은 정신입니다. quantum 이 진짜로 새로운 건 amplitude 가 음수, 복소수가 될 수 있어서 cancellation (간섭) 이 일어난다 는 한 가지뿐입니다.
한 줄 요약
probabilistic operation 은 현실의 무작위성을 vector, 행렬 framework 안에 안전하게 끼워 넣는 도구 이고, quantum 으로 갈 때 amplitude 와 unitary 가 자연스러운 일반화로 보이게 하는 디딤돌 입니다.
이 글이 deterministic 다음에 등장하는 이유가 그래서입니다. 확률을 행렬 안으로 넣는다 는 한 동작이 quantum 의 골격을 미리 깔아주기 때문이죠.
짚어둘 것
세 가지만 따로 정리합니다.
- 합 인덱스는 입력 변수 입니다. 에서 는 column index, 출력 위치는 . 인덱스 글자가 헷갈리면 식의 의미가 흔들립니다.
- 이 강의는 column-stochastic 컨벤션을 사용합니다. 즉 column 합 . 다른 텍스트는 row 합 인 row-stochastic 을 쓰기도 하니 새 자료를 볼 때마다 컨벤션을 먼저 확인해야 합니다.
- probabilistic operation 은 일반적으로 invertible 하지 않습니다. column-stochastic 행렬 중 invertible 인 것은 사실상 permutation matrix, 즉 deterministic 중 bijection 뿐입니다. 무작위성을 얹는 순간 정보가 사라지고 그 손실은 어떤 행렬 곱으로도 복원되지 않습니다. 출력만 보고 입력을 알 수 없다 는 직관과 일치합니다.
다음으로
이 두 글로 classical operation 의 그림이 완성됐습니다. 다음 노트에서는 두 가지 갈래를 다룹니다.
- Composing operations. 한 행렬을 다른 행렬에 이어 적용하면 무엇이 되는가. 행렬 곱이 연산의 합성 과 정확히 같다는 사실, 그리고 그것이 deterministic 합성에서 어떻게 작동하는지.
- Quantum information 으로의 도입. 지금까지 entry 가 probability 였던 자리에, 부호와 복소수가 허용되는 amplitude 를 넣으면 어떤 일이 일어나는가. classical 위에서 다진 framework 가 그대로 quantum 으로 옮겨지는 모습.