금융공학에서의 확률과 확률분포의 활용 : 불확실성을 길들이는 수학의 힘

“금융 시장에서 확실한 것은 불확실성뿐이다. 확률은 그 불확실성에 이름을 붙이고 길들이는 첫걸음이다.”

금융의 세계는 예측 불가능한 변수들로 가득합니다. 내일의 주가는? 다음 달 환율은? 1년 뒤 이 회사는 무사할까? 이 모든 질문에 대한 답은 안갯속에 있습니다. 하지만 우리는 이 안개를 헤치고 나아가야만 합니다. 이때 나침반 역할을 해주는 것이 바로 ‘확률’과 ‘확률분포’입니다. 이것들은 단순한 수학 공식을 넘어, 금융 시장의 불확실성을 이해하고, 위험을 측정하며, 더 나은 의사결정을 내리도록 돕는 강력한 언어입니다. 오늘은 이 확률의 세계가 금융공학이라는 무대에서 어떻게 활약하는지 쉽고 재미있게 살펴보겠습니다.

금융 시장의 단골손님: 정규분포, 로그정규분포, 그리고 친구들

확률분포는 특정 사건이나 변수가 어떤 값을 가질 가능성을 수학적으로 표현한 그림입니다. 금융 시장에는 유독 자주 등장하는 ‘단골손님’ 분포들이 있습니다.

• 정규분포 (Normal Distribution): ‘벨 커브’라는 별명으로 더 유명하죠. 평균값을 중심으로 좌우대칭인 아름다운 종 모양을 하고 있습니다. 많은 자연 현상과 사회 현상이 이 분포를 따르며, 금융 초기 모델에서도 자산 수익률이 정규분포를 따른다고 가정했습니다. 계산이 비교적 간단하고 직관적이라는 장점이 있습니다. 하지만 현실 금융 시장의 거친 면모를 담기에는 너무 ‘얌전한’ 분포라는 치명적인 약점이 있습니다.
• 로그정규분포 (Lognormal Distribution): 주식 가격처럼 절대 0보다 작아질 수 없는 변수들을 설명하는 데 더 적합합니다. 어떤 변수의 로그(log) 값이 정규분포를 따르면, 그 변수 자체는 로그정규분포를 따른다고 합니다. 주식 가격 자체보다는 그 수익률(특히 연속 복리 수익률)이 정규분포에 가깝다고 보고, 가격 자체는 로그정규분포로 모델링하는 경우가 많습니다. 정규분포보다는 현실적인 모델이죠.
• 지수분포 (Exponential Distribution) 및 포아송 분포 (Poisson Distribution): 이들은 주로 ‘사건의 발생’과 관련된 현상을 모델링하는 데 쓰입니다. 예를 들어, 포아송 분포는 일정 기간 동안 특정 사건(예: 기업 부도, 특정 가격 변동 발생 횟수)이 몇 번이나 발생할 확률을 나타냅니다. 지수분포는 어떤 사건이 발생한 후 다음 사건이 발생하기까지 걸리는 시간에 대한 확률을 나타낼 수 있습니다.
• 기타 분포들: 현실 금융 데이터의 특징을 더 잘 반영하기 위해 스튜던트 t-분포(Student’s t-distribution), 와이블 분포(Weibull Distribution) 등 다양한 분포들이 연구되고 활용됩니다.

제 생각에, 어떤 분포를 선택하느냐는 마치 어떤 안경을 쓰고 세상을 보느냐와 같습니다. 각 분포는 세상을 특정 방식으로 해석하게 해주지만, 어떤 안경도 세상의 모든 모습을 완벽하게 담아낼 수는 없습니다. 중요한 것은 분석하려는 대상의 특성에 가장 잘 맞는 안경을 고르는 지혜입니다.

현실의 금융 데이터: 뾰족하고 뚱뚱한 꼬리의 진실

정규분포가 금융 시장의 모든 것을 설명하지 못하는 가장 큰 이유는, 실제 금융 데이터가 정규분포의 가정과는 사뭇 다른 특징들을 보이기 때문입니다. 바로 ‘비대칭성(Skewness)’과 ‘뚱뚱한 꼬리(Fat Tails)’입니다.

• 비대칭성 (Skewness): 정규분포는 완벽한 좌우대칭이지만, 실제 자산 수익률 분포는 한쪽으로 치우쳐 있는 경우가 많습니다. 특히 하락장에서 큰 손실이 발생하는 경향이 상승장에서 비슷한 크기의 이익이 발생하는 경우보다 더 잦거나 클 수 있는데, 이를 ‘음의 왜도(Negative Skew)’라고 합니다. 분포 그래프가 왼쪽으로 긴 꼬리를 갖는 모습이죠.
• 뚱뚱한 꼬리 (Fat Tails, 첨도 Kurtosis): 이것이 정규분포의 가장 큰 약점입니다. 정규분포는 평균에서 멀리 떨어진 극단적인 값(꼬리 부분)이 발생할 확률이 매우 낮다고 가정합니다. 하지만 현실에서는 2008년 금융위기나 코로나19 팬데믹과 같은 극단적인 시장 충격, 즉 ‘블랙 스완(Black Swan)’ 이벤트가 정규분포가 예측하는 것보다 훨씬 더 자주 발생합니다. 분포 그래프의 양쪽 꼬리 부분이 정규분포보다 더 두껍고(‘뚱뚱하고’), 평균 근처는 더 뾰족한 모양을 보입니다.

이 ‘뚱뚱한 꼬리’ 문제는 금융 리스크 관리에서 치명적입니다. 정규분포를 맹신하여 극단적인 손실 가능성을 과소평가했다가는 예상치 못한 위기에 속수무책으로 당할 수 있습니다. 과거 롱텀캐피털매니지먼트(LTCM)의 파산이나 2008년 금융위기의 배경에는 이러한 통계적 착각이 자리 잡고 있었습니다. 제 의견으로는, 금융 모델을 만들 때는 이 ‘뚱뚱한 꼬리’를 얼마나 잘 설명하고 대비할 수 있느냐가 모델의 성패를 가르는 핵심 요소 중 하나입니다.

확률의 언어: PDF와 CDF 이해하기

확률분포를 제대로 이해하고 활용하려면 두 가지 중요한 함수를 알아야 합니다. 바로 확률 밀도 함수(PDF)와 누적 분포 함수(CDF)입니다.

• 확률 밀도 함수 (Probability Density Function, PDF): 연속적인 변수(예: 주가 수익률)가 특정 값 근처에 있을 ‘상대적인 가능성’을 나타내는 함수입니다. 그래프의 높이가 해당 값의 발생 밀도를 의미합니다. 정규분포의 종 모양 그래프가 바로 PDF의 예시입니다. 특정 한 지점에서의 확률 자체는 0이지만(예: 수익률이 정확히 1.23456%일 확률), PDF는 어느 구간의 확률이 더 높은지를 보여줍니다. 그래프 아래 전체 면적은 항상 1이 됩니다(모든 가능성을 더하면 100%).
• 누적 분포 함수 (Cumulative Distribution Function, CDF): 어떤 변수가 특정 값보다 작거나 같을 확률을 나타내는 함수입니다. 항상 0에서 시작하여 1로 끝나는 S자 형태의 곡선이 됩니다. 예를 들어, 주가 수익률의 CDF에서 x축 값이 -5%일 때 y축 값이 0.1이라면, 이는 수익률이 -5% 이하일 확률이 10%임을 의미합니다. PDF보다 실용적인 질문에 답하기 좋습니다. “손실이 10%를 넘을 확률은 얼마인가?”와 같은 질문에 답할 수 있죠.

이 두 함수는 동전의 양면과 같습니다. PDF가 분포의 ‘모양’을 보여준다면, CDF는 그 모양에 기반한 ‘확률 계산’을 가능하게 해줍니다. 금융 모델링과 리스크 관리에서 특정 시나리오의 발생 확률을 계산하는 데 필수적인 도구들입니다.

리스크 측정의 나침반: 확률을 활용한 위험 평가

확률과 확률분포는 금융 리스크를 정량적으로 평가하고 관리하는 데 핵심적인 역할을 합니다.

• Value at Risk (VaR): 가장 널리 알려진 리스크 지표 중 하나입니다. “정상적인 시장 상황 하에서, 주어진 신뢰수준(예: 95% 또는 99%)과 기간(예: 하루 또는 열흘) 동안 발생할 수 있는 최대 손실 금액”을 의미합니다. 예를 들어, 어떤 포트폴리오의 1일 99% VaR가 1억 원이라면, 이는 하루 동안 손실이 1억 원을 초과할 확률이 1%라는 뜻입니다. CDF를 이용하여 특정 확률에 해당하는 손실 값을 찾아내는 방식으로 계산됩니다.
• 기대 손실 (Expected Shortfall, ES) 또는 조건부 VaR (Conditional VaR, CVaR): VaR은 ‘꼬리 위험’, 즉 극단적인 손실 상황을 제대로 반영하지 못한다는 비판을 받습니다. ES는 이러한 단점을 보완하기 위해 등장했습니다. VaR 기준을 넘어선 손실이 발생했을 경우, 그 손실액의 평균 기댓값을 계산합니다. 즉, “최악의 1% 상황이 발생했을 때, 평균적으로 얼마나 손실을 볼 것인가?”에 대한 답을 줍니다. VaR보다 더 보수적이고 꼬리 위험을 잘 반영하는 지표로 평가받습니다.
• 신용 리스크 모델링: 기업이나 대출자가 부도할 확률(Probability of Default, PD), 부도 시 손실 규모(Loss Given Default, LGD) 등을 확률분포를 이용하여 모델링합니다. 이를 통해 대출 포트폴리오의 예상 손실을 계산하고 적절한 충당금을 쌓거나 신용 파생상품의 가격을 결정하는 데 활용합니다.
• 옵션 가격 결정: 블랙-숄즈 모형과 같은 옵션 가격 결정 모델은 기초자산(예: 주식) 가격이 특정 확률분포(로그정규분포)를 따른다고 가정하고, 이를 바탕으로 옵션의 미래 기대 가치를 계산하여 현재 가격을 결정합니다.

제 생각에, 리스크 관리는 단순히 ‘위험을 피하는 것’이 아닙니다. 오히려 ‘계산된 위험을 감수하는 것’에 가깝습니다. 확률과 확률분포는 우리가 감수하려는 위험의 크기와 성격을 정확히 이해하고, 그에 대한 합리적인 대가를 요구하거나 대비책을 마련하도록 돕는 필수적인 도구입니다.

마치며: 확률, 금융의 불확실성을 다루는 지혜

금융 시장의 불확실성은 피할 수 없는 현실입니다. 하지만 확률과 확률분포라는 수학적 언어를 통해 우리는 이 불확실성을 이해하고, 측정하고, 관리할 수 있습니다. 정규분포의 편리함부터 뚱뚱한 꼬리의 냉혹한 현실까지, 다양한 확률분포 모델들은 금융 현상의 복잡한 이면을 들여다보는 창을 제공합니다.

PDF와 CDF는 확률을 구체적인 숫자로 변환하고, VaR와 ES는 측정된 위험을 바탕으로 의사결정을 내리는 데 도움을 줍니다. 물론 어떤 모델도 완벽하지 않으며, 특히 예측 불가능한 ‘블랙 스완’ 앞에서는 겸손해야 합니다. 하지만 확률적 사고는 우리가 감정에 휘둘리지 않고 데이터에 기반한 합리적인 판단을 내리는 데 결정적인 역할을 합니다.

결국 금융공학에서 확률을 활용하는 것은, 짙은 안갯속을 항해할 때 최첨단 레이더와 경험 많은 항해사의 직관을 함께 사용하는 것과 같습니다. 수학적 엄밀함과 현실에 대한 깊은 이해가 조화를 이룰 때, 우리는 불확실성이라는 파도를 넘어 더 나은 금융의 미래로 나아갈 수 있을 것입니다.