Aiden Kwak Pages
02 · Blog · 기록Quantum6/8

Quantum(6) - Probabilistic Operations

2026-04-28 ·

앞의 두 글에서 outer product ab|a\rangle \langle b | 가 "(a, b) 자리만 1 인 행렬" 이라는 점, 그리고 deterministic operation 의 행렬은 "각 column 에 정확히 하나의 1" 이라는 사실을 확인했습니다. 이번 노트에서는 이 둘을 합쳐 deterministic operation 을 Dirac 한 줄 식으로 적고, 그 위에 무작위성 을 얹은 probabilistic operation 으로 넘어갑니다.

Deterministic Operation 을 Dirac 한 줄로

함수 f:ΣΣf : \Sigma \to \Sigma 의 행렬은 다음 한 줄 식으로 정확히 표현됩니다.

M=bΣf(b)bM = \sum_{b \in \Sigma} |f(b)\rangle \langle b |

각 항 f(b)b|f(b)\rangle \langle b |(f(b),b)(f(b), b) 자리에 1 표시기 이고, 모든 bb 에 대해 합치면 column 마다 정확히 한 자리에 1 이 박힙니다. 앞 글의 4가지 bit 함수 행렬이 그대로 재현됩니다.

이 식이 정말 정의대로 작동하는지를 한 줄 계산으로 확인해 봅시다.

Ma=(bf(b)b)a=bf(b)ba=bf(b)δb,a=f(a)M |a\rangle = \left( \sum_b |f(b)\rangle \langle b | \right) |a\rangle = \sum_b |f(b)\rangle \, \langle b | a \rangle = \sum_b |f(b)\rangle \, \delta_{b, a} = |f(a)\rangle

행렬 곱의 결합 법칙을 쓰면 ba=δb,a\langle b | a \rangle = \delta_{b, a} 라는 한 줄의 사실에 의해 b=ab = a 인 항만 살아남고 나머지는 전부 00 으로 사라집니다. outer product 표기의 위력이 이 한 줄에 응축되어 있습니다.

무작위성을 얹으면 Probabilistic Operation

deterministic operation 은 입력이 정해지면 출력이 결정적입니다. 그러나 현실에서는 "입력이 0 이면 가만히 두고, 입력이 1 이면 절반의 확률로 뒤집는다" 같은 무작위 동작도 있습니다. 이런 동작을 행렬로 어떻게 적을지 생각해 봅시다.

위 예시를 정확히 표 형태로 정리하면:

입력출력이 0 일 확률출력이 1 일 확률
001100
111/21/21/21/2

이걸 행렬로 옮기되, column 0 = 입력 0 의 출력 분포, column 1 = 입력 1 의 출력 분포 가 되도록 적습니다.

N=(11/201/2)N = \begin{pmatrix} 1 & 1/2 \\\\ 0 & 1/2 \end{pmatrix}

각 column 의 entry 합이 11 이고 모든 entry 가 음이 아닌 행렬을 stochastic matrix (정확히는 column-stochastic) 라 부릅니다.

probabilistic operation \to stochastic matrix

두 조건: 모든 entry 0\geq 0, 각 column 합 =1= 1.

각 column 자체가 입력이 그 인덱스일 때 출력의 probability vector 라는 점이 핵심입니다. 그래서 column 합 =1=1 이라는 조건은 어떤 입력에 대해서도 출력 확률 합 =1=1 이라는 자연스러운 요구일 뿐입니다.

Probability vector 위에 적용

probability vector v=130+231v = \tfrac{1}{3} |0\rangle + \tfrac{2}{3} |1\rangleNN 을 적용해 봅시다.

Nv=(11/201/2)(1/32/3)=(1/3+1/30+1/3)=(2/31/3)=230+131N v = \begin{pmatrix} 1 & 1/2 \\\\ 0 & 1/2 \end{pmatrix} \begin{pmatrix} 1/3 \\\\ 2/3 \end{pmatrix} = \begin{pmatrix} 1/3 + 1/3 \\\\ 0 + 1/3 \end{pmatrix} = \begin{pmatrix} 2/3 \\\\ 1/3 \end{pmatrix} = \tfrac{2}{3} |0\rangle + \tfrac{1}{3} |1\rangle

해석하면, 처음에 X=1X = 1 일 확률이 23\tfrac{2}{3} 였는데, 그 절반이 flip 되어 00 으로 돌아오면서 Pr(X=0)\Pr(X = 0)13\tfrac{1}{3} 에서 23\tfrac{2}{3} 로 증가합니다. 직관과 일치합니다.

Stochastic Matrix 인지 판정해보기

다음 행렬이 valid stochastic matrix 인지 봅시다.

A=(0.40.60.70.4)A = \begin{pmatrix} 0.4 & 0.6 \\\\ 0.7 & 0.4 \end{pmatrix}

column 합을 계산하면 첫 번째 column 은 0.4+0.7=1.10.4 + 0.7 = 1.1, 두 번째 column 은 0.6+0.4=1.00.6 + 0.4 = 1.0. 첫 번째 column 의 합이 11 이 아니므로 stochastic matrix 가 아닙니다. 모든 entry 가 음이 아닌 조건은 만족하지만 column 합 =1= 1 조건이 깨졌습니다.

판정 절차로 적자면 (1) 모든 entry 가 0\geq 0 인지, (2) 각 column 합이 11 인지를 차례로 확인하면 끝입니다.

Convex Combination 분해

stochastic matrix 는 사실 deterministic matrix 들의 가중 평균 (convex combination) 으로 항상 표현 가능합니다.

N=p1Mf1+p2Mf2++pkMfk,pi0, ipi=1N = p_1 M_{f_1} + p_2 M_{f_2} + \cdots + p_k M_{f_k}, \quad p_i \geq 0, \ \sum_i p_i = 1

해석은 더 단순합니다. 여러 deterministic 함수 중 하나를 확률 pip_i 로 골라 적용 하는 것과 정확히 같은 동작입니다.

위 예시 NN 을 두 deterministic 의 평균으로 적어 봅시다.

N=12(1100)+12(1001)=12M1+12M2N = \tfrac{1}{2} \begin{pmatrix} 1 & 1 \\\\ 0 & 0 \end{pmatrix} + \tfrac{1}{2} \begin{pmatrix} 1 & 0 \\\\ 0 & 1 \end{pmatrix} = \tfrac{1}{2} M_1 + \tfrac{1}{2} M_2

여기서 M1M_1 은 항상 0 으로 보내는 constant 함수, M2M_2 는 identity 입니다. 즉 절반의 확률로 모든 입력을 0 으로 짜내고, 절반의 확률로 그대로 둔다 는 동작이 곧 위 NN 과 같습니다.

분해를 검산하면:

12(1100)+12(1001)=(1/2+1/21/2+00+00+1/2)=(11/201/2)\tfrac{1}{2} \begin{pmatrix} 1 & 1 \\\\ 0 & 0 \end{pmatrix} + \tfrac{1}{2} \begin{pmatrix} 1 & 0 \\\\ 0 & 1 \end{pmatrix} = \begin{pmatrix} 1/2 + 1/2 & 1/2 + 0 \\\\ 0 + 0 & 0 + 1/2 \end{pmatrix} = \begin{pmatrix} 1 & 1/2 \\\\ 0 & 1/2 \end{pmatrix}

정확히 NN 입니다. probabilistic operation 의 본질이 결국 deterministic 들 사이의 가중 평균 이라는 사실은 직관적으로 강력합니다. "어떤 동작을 할지 동전을 굴려 정한다" 는 시점이 행렬에 그대로 남는 셈입니다.

한 가지 짚어둘 점. 이 분해는 유일하지 않습니다. 같은 stochastic matrix 를 다른 deterministic 조합과 다른 가중치로 적을 수도 있습니다. 다만 어떤 분해는 항상 존재합니다.

이걸 배우는 이유

여기까지 읽고 왜 굳이 deterministic 만 두지 않고 일반화하는가 라는 질문이 자연스럽게 떠오릅니다. 네 가지 정도로 정리됩니다.

1. 현실의 시스템은 무작위입니다

deterministic operation 만으로 모델링되는 실제 시스템은 거의 없습니다. 거의 모든 동작에 불확실성 이 끼어듭니다.

도메인무작위 동작 예
통신비트가 잡음으로 인해 확률 pp 로 뒤집힘 (noisy channel)
알고리즘무작위 hash, MCMC, simulated annealing
금융주가가 다음 step 에 어디로 갈지에 대한 확률 분포
물리측정, 열적 노이즈, decoherence
AIdropout, sampling, 확률적 정책 (policy)

이런 동작을 수학적으로 정확히 적으려면 "각 입력이 어떤 출력 분포로 가는가" 를 행렬로 적어야 하고, 그 행렬이 stochastic matrix 입니다.

2. Markov Chain 이 정확히 이 형태입니다

stochastic matrix 는 추상적 도구가 아니라 Markov chain 이라는, 광범위하게 쓰이는 프레임워크 그 자체입니다. 한 가지 친숙한 예로 Apple iPhone 과 Samsung Galaxy 의 시장 점유율 을 적어 봅시다.

mermaid 로드 중…

상태 두 개 (Apple, Samsung) 사이의 전이 확률입니다.

  • 이번 달 Apple 사용자 → 다음 달 Apple 유지 확률 0.7140.714, Samsung 으로 갈 확률 0.2860.286
  • 이번 달 Samsung 사용자 → 다음 달 Apple 로 갈 확률 0.3630.363, Samsung 유지 확률 0.6370.637

이걸 행렬로 옮기되 column 인덱스 = 현재 상태, row 인덱스 = 다음 상태 가 되도록 적습니다.

M=(0.7140.3630.2860.637)M = \begin{pmatrix} 0.714 & 0.363 \\\\ 0.286 & 0.637 \end{pmatrix}

각 column 의 합은 11 (현재 어느 상태에 있든 다음 달에 어디든 가야 하니까), 모든 entry 0\geq 0. 정확히 column-stochastic matrix 입니다.

이번 달 점유율을 vector 로 적으면:

u=(0.4920.508)(Apple 49.2%, Samsung 50.8%)u = \begin{pmatrix} 0.492 \\\\ 0.508 \end{pmatrix} \quad (\text{Apple } 49.2\%, \ \text{Samsung } 50.8\%)

다음 달 점유율은 행렬 곱 한 번으로 계산됩니다.

Mu=(0.7140.3630.2860.637)(0.4920.508)=(0.7140.492+0.3630.5080.2860.492+0.6370.508)(0.5360.464)M u = \begin{pmatrix} 0.714 & 0.363 \\\\ 0.286 & 0.637 \end{pmatrix} \begin{pmatrix} 0.492 \\\\ 0.508 \end{pmatrix} = \begin{pmatrix} 0.714 \cdot 0.492 + 0.363 \cdot 0.508 \\\\ 0.286 \cdot 0.492 + 0.637 \cdot 0.508 \end{pmatrix} \approx \begin{pmatrix} 0.536 \\\\ 0.464 \end{pmatrix}

전이 확률을 한 번 적용하니 Apple 점유율이 49.2%49.2\% 에서 53.6%53.6\% 로, Samsung 은 50.8%50.8\% 에서 46.4%46.4\% 로 움직입니다. 이걸 매월 반복하면 장기 점유율 (steady state) 까지 자연스럽게 따라옵니다.

같은 framework 가 PageRank (웹페이지가 다음 step 에 어디로 갈 확률), 큐잉 시스템, 강화학습 정책 평가에 그대로 등장합니다. 이름은 다 다르지만 코어는 stochastic matrix 와 그 위의 vector 곱 입니다.

3. Quantum 측정 자체가 본질적으로 확률적입니다

quantum state ψ=α0+β1|\psi\rangle = \alpha |0\rangle + \beta |1\rangle 을 측정하면 결과가 00 일 확률이 α2|\alpha|^2, 11 일 확률이 β2|\beta|^2 로 측정 결과는 확률 분포로 나옵니다. quantum gate 자체는 deterministic (unitary) 이지만, 측정 단계에서 확률이 끼어듭니다.

그 결과 분포를 다루려면 확률 vector + stochastic 연산 framework 이 반드시 필요합니다. quantum 알고리즘을 분석한다는 건 결국 확률 분포 위의 동작 을 정밀하게 따지는 일이기 때문입니다.

4. Quantum 으로 가는 직전 디딤돌입니다

이게 학습 경로의 핵심 이유입니다. 두 framework 의 골격은 거의 같습니다.

ProbabilisticQuantum
stateprobability vectoramplitude vector
entry확률 (0\geq 0)amplitude (복소수)
정규화p=1\sum p = 1α2=1\sum \lvert \alpha \rvert^{2} = 1
operationstochastic matrixunitary matrix
operation 조건column 합 =1= 1, entry 0\geq 0UU=IU^{\dagger} U = I (column orthonormal)

probabilistic 단계를 정착하지 않고 곧장 quantum 으로 가면, 어느 게 quantum 만의 새로움이고 어느 게 그냥 "확률 위에 정의된 시스템" 의 자연스러운 결과인지 가 흐려집니다. 예를 들어 α2=1\sum |\alpha|^2 = 1 이라는 조건도 어떤 측정에 대해서도 결과 확률 합이 11 이라는 점에서 stochastic matrix 의 column 합 =1= 1 과 같은 정신입니다. quantum 이 진짜로 새로운 건 amplitude 가 음수, 복소수가 될 수 있어서 cancellation (간섭) 이 일어난다 는 한 가지뿐입니다.

한 줄 요약

probabilistic operation 은 현실의 무작위성을 vector, 행렬 framework 안에 안전하게 끼워 넣는 도구 이고, quantum 으로 갈 때 amplitude 와 unitary 가 자연스러운 일반화로 보이게 하는 디딤돌 입니다.

이 글이 deterministic 다음에 등장하는 이유가 그래서입니다. 확률을 행렬 안으로 넣는다 는 한 동작이 quantum 의 골격을 미리 깔아주기 때문이죠.

짚어둘 것

세 가지만 따로 정리합니다.

  • 합 인덱스는 입력 변수 bb 입니다. M=bf(b)bM = \sum_b |f(b)\rangle \langle b | 에서 bb 는 column index, 출력 위치는 f(b)f(b). 인덱스 글자가 헷갈리면 식의 의미가 흔들립니다.
  • 이 강의는 column-stochastic 컨벤션을 사용합니다. 즉 column 합 =1= 1. 다른 텍스트는 row 합 =1= 1 인 row-stochastic 을 쓰기도 하니 새 자료를 볼 때마다 컨벤션을 먼저 확인해야 합니다.
  • probabilistic operation 은 일반적으로 invertible 하지 않습니다. column-stochastic 행렬 중 invertible 인 것은 사실상 permutation matrix, 즉 deterministic 중 bijection 뿐입니다. 무작위성을 얹는 순간 정보가 사라지고 그 손실은 어떤 행렬 곱으로도 복원되지 않습니다. 출력만 보고 입력을 알 수 없다 는 직관과 일치합니다.

다음으로

이 두 글로 classical operation 의 그림이 완성됐습니다. 다음 노트에서는 두 가지 갈래를 다룹니다.

  • Composing operations. 한 행렬을 다른 행렬에 이어 적용하면 무엇이 되는가. 행렬 곱이 연산의 합성 과 정확히 같다는 사실, 그리고 그것이 deterministic 합성에서 어떻게 작동하는지.
  • Quantum information 으로의 도입. 지금까지 entry 가 probability 였던 자리에, 부호와 복소수가 허용되는 amplitude 를 넣으면 어떤 일이 일어나는가. classical 위에서 다진 framework 가 그대로 quantum 으로 옮겨지는 모습.
Back toBlog 목록