블로그 목록
finance2026-07-105분

켈리 기준 계산기: 최적 베팅 비율 공식의 수학적 원리

켈리 기준(Kelly Criterion) 공식의 수학적 원리와 실제 트레이딩에서의 활용법을 상세히 설명합니다.


켈리 기준 계산기: 최적 베팅 비율 공식의 수학적 원리

켈리 기준이란 무엇인가

켈리 기준(Kelly Criterion)은 1956년 존 라이더 켈리(John Larry Kelly)가 벨 연구소에서 발표한 수학적 프레임워크로, 확률적 이점을 가진 게임에서 장기적으로 자본금이 최대한 성장하도록 하는 최적 베팅 비율을 결정하는 방법입니다. 이 공식은 처음에 통신 이론의 노이즈 채널 문제를 다루기 위해 개발되었으나, 곧 카지노 게임과 금융 투자에 널리 적용되게 되었습니다.

케일리는 자신의 연구에서 라디오 송수신 과정에서 발생하는 노이즈와 관련된 확률 문제를 해결하던 중, 통신 채널의 용량을 최대화하기 위한 최적 전략이 금융 시장에서의 최적 자본 배분과 동일한 수학적 구조를 가진다는 것을 발견했습니다. 이후 에드워드 Thorp와 같은 수학자와 트레이더들이 이를 실제 카지노 게임과 증권 시장에 적용하여 놀라운 성과를 거두었으며, 오늘날에는 기관 투자자와 개인 트레이더 모두에게 널리 사용되는 자금 관리 도구가 되었습니다.

기본 공식과 수학적 유도

켈리 기준의 기본 공식은 다음과 같습니다:

f\* = (bp - q) / b

여기서 각 변수의 의미는 다음과 같습니다:

  • f\*: 자본금 대비 최적 베팅 비율

  • b: 순 배당률(베팅 1단위당 얻을 수 있는 이익)

  • p: 승리 확률

  • q: 패배 확률 (= 1 - p)


이 공식은 기하급수적 성장률(Geometric Growth Rate)을 최대화하는 베팅 비율을 찾는 최적화 문제로부터 유도됩니다. 구체적으로, 연속적인 베팅에서 자본금의 기하급수적 성장률 G(f)는 다음과 같이 표현됩니다:

G(f) = p × ln(1 + bf) + q × ln(1 - f)

이 함수의 도함수를 0으로 설정하여 최댓값을 찾으면, 앞서 소개한 켈리 기준 공식이 도출됩니다.

예를 들어, 50%의 확률로 2배를 따는 게임이 있다고 가정하면 b=1, p=0.5, q=0.5가 되어 f\ = (1×0.5 - 0.5) / 1 = 0이 됩니다. 이는 기대값이 0인 게임에서는 베팅하지 않는 것이 최적이라는 의미입니다. 반면에 승리 확률이 60%이고 순 배당률이 1인 경우라면 f\ = (1×0.6 - 0.4) / 1 = 0.2가 되어, 자본금의 20%를 베팅하는 것이 최적임을 알 수 있습니다.

더 복잡한 예시로, 승리 확률 55%, 배당률 1.5배인 게임을 생각해 봅시다. 이때 b=0.5, p=0.55, q=0.45이므로 f\* = (0.5 × 0.55 - 0.45) / 0.5 = 0.10, 즉 자본금의 10%를 베팅하는 것이 최적입니다. 이 비율은 장기적으로 기하급수적 성장률을 극대화합니다.

엣지(Edge) 계산의 중요성

켈리 기준을 적용하기 전에 정확한 엣지(유리한 확률적 우위)를 계산하는 것이 핵심입니다. 엣지란 기대 수익률에서 손실 확률을 뺀 값으로, 다음 공식으로 표현됩니다:

엣지 = (p × b) - q

엣지가 양수일 때만 켈리 기준은 유효하며, 엣지가 클수록 더 큰 비율을 베팅하는 것이 최적입니다. 엣지가 음수인 게임에서는 켈리 기준이 음수를 반환하므로, 베팅하지 않는 것이 최선의 전략입니다.

엣지 계산의 정확성은 켈리 기준의 성패를 결정하는 가장 중요한 요소입니다. 확률 추정이 10% 정도 어긋나면, 최적 베팅 비율은 그보다 더 크게 잘못될 수 있습니다. 따라서 대부분의 전문가들은 켈리 기준의 결과를 절반 이하로 감소시켜 사용할 것을 권장합니다.

금융 시장에서 엣지를 계산할 때는 과거 수익률 데이터, 변동성 분석, 시장 구조 분석 등의 방법을 사용합니다. 그러나 과거 데이터에 기반한 엣지 추정은 미래에도 동일하게 작동한다는 보장이 없으므로, 항상 불확실성을 고려한 보수적 접근이 필요합니다.

풀 켈리 vs 하프 켈리

이론적으로는 켈리 기준의 결과값(풀 켈리)을 그대로 적용하면 장기적으로 자본금이 최대 성장을 보장합니다. 그러나 실제로 풀 켈리는 다음과 같은 위험을 내포하고 있습니다:

  • 변동성 극대화: 풀 켈리는 최대 성장을 보장하지만, 그 과정에서 자본금의 상당한 하락(드로다운)을 동반할 수 있습니다. 심각한 드로다운은 트레이더의 심리에 부정적 영향을 미쳐, 최적 전략의 이탈을 초래할 수 있습니다.
  • 오차에 대한 민감도: 확률이나 배당률의 추정이 약간 어긋나도 결과는 크게 달라질 수 있습니다. 예를 들어, 실제 승리 확률이 55%인데 60%로 과대 추정하면, 최적 베팅 비율이 과도하게 설정되어 큰 손실을 초래할 수 있습니다.
  • 심리적 부담: 급격한 자본금 변동은 트레이더의 심리에 부정적 영향을 미칩니다. 인간은 손실에 대해 이득의 약 2배에 해당하는 고통을 느끼는 것으로 알려져 있으므로(손실 회피), 풀 켈리의 큰 변동성은 심리적 압박을 극대화합니다.
  • 따라서 대부분의 전문가들은 하프 켈리(50% 켈리) 또는 쿼터 켈리(25% 켈리)를 권장합니다. 하프 켈리는 풀 켈리 대비 수익률의 약 75%를 달성하면서 변동성을 절반으로 줄이는 균형 잡힌 접근법입니다. 쿼터 켈리는 수익률의 약 56%를 달성하면서 변동성을 75%까지 줄이며, 보수적인 트레이더에게 적합합니다.

    하프 켈리의 장점을 수학적으로 살펴보면, 최대 드로다운이 풀 켈리에 비해 현저히 줄어들면서도 장기 기하급수적 성장률은 크게 저하되지 않습니다. 이는 로그 함수의 성질에 기인하는데, 로그 함수는 수익이 클수록 완만해지는 성질이 있어, 베팅 비율을 줄여도 성장률의 감소는 제한적입니다.

    포트폴리오 배분에서의 켈리 기준

    켈리 기준은 단순 베팅뿐만 아니라 복수의 자산으로 구성된 포트폴리오 배분에도 확장 적용할 수 있습니다. 마코비츠의 평균-분산 최적화와 유사하게, 각 자산별 최적 비중을 결정할 수 있습니다.

    다중 자산 켈리 공식은 행렬 형태로 표현됩니다:

    f\* = Σ⁻¹ × μ

    여기서 Σ⁻¹은 수익률의 공분산 행렬의 역행렬이고, μ는 기대 수익률 벡터입니다. 이 방법은 각 자산의 기대 수익률, 변동성, 그리고 자산 간 상관관계를 모두 고려하여 최적 배분 비율을 산출합니다.

    포트폴리오 켈리 기준의 실제 적용 시 몇 가지 주의사항이 있습니다. 첫째, 공분산 행렬의 추정 오차가 최적 배분 비율에 큰 영향을 미칠 수 있습니다. 둘째, 자산 간 상관관계가 시장 상황에 따라 변할 수 있으므로, 정상성(Stationarity) 가정이 항상 성립하지 않을 수 있습니다. 셋째, 거래 비용과 세금을 고려하지 않은 이론적 결과이므로, 실전 적용 시 추가 조정이 필요합니다.

    실제 기관 투자자들은 켈리 기준의 결과에 위험 조정 계수를 적용하여, 변동성을 적정 수준으로 유지하면서 포트폴리오 수익률을 최대화하는 전략을 사용합니다. 이러한 접근법은 순수한 이론적 최적값보다 실용적이며, 시장의 불확실성과 투자자의 리스크 허용 범위를 동시에 고려합니다.

    연속 켈리 vs 이산 켈리

    켈리 기준에는 두 가지 주요 변형이 있습니다:

    이산 켈리(Discrete Kelly)는 고정된 배당률과 확률을 가진 이산적 게임에 적용되며, 기본 공식을 그대로 사용합니다. 카지노의 블랙잭이나 스포츠 베팅처럼 결과가 명확히 구분되는 상황에 적합합니다.

    반면 연속 켈리(Continuous Kelly)는 연속적인 수익률 분포를 가정하며, 다음 공식을 사용합니다:

    f\* = μ / σ²

    여기서 μ는 기대 초과 수익률이고, σ²는 수익률의 분산입니다. 이 공식은 수익률이 정규 분포를 따른다는 가정 하에 유도되며, 금융 시장의 연속적인 수익률 분포를 더 잘 모델링합니다.

    연속 켈리와 이산 켈리의 차이를 구체적으로 살펴보면, 이산 켈리는 각 베팅이 독립적이고 결과가 고정된 확률로 결정되는 반면, 연속 켈리는 수익률이 연속적인 확률 분포를 따르므로 분산(변동성)이 핵심 변수가 됩니다. 따라서 변동성이 높은 자산일수록 베팅 비율이 줄어들며, 이는直覺적으로도 합리적인 결과입니다.

    비판과 한계점

    켈리 기준은 이론적으로 우수하지만, 현실적 한계가 존재합니다:

  • 확률 추정의 어려움: 금융 시장에서 정확한 승률과 배당률을 추정하기란 극히 어렵습니다. 시장은 복잡한 적응적 시스템으로서, 과거의 확률 분포가 미래에도 동일하게 유지된다는 보장이 없습니다.
  • 정상성 가정: 켈리 기준은 수익률 분포가 정상(가우시안)을 따른다고 가정하지만, 실제로는 꼬리 리스크(Tail Risk)가 훨씬 큽니다. 금융 시장의 수익률 분포는 뾰족한 첨도(Leptokurtosis)를 가지며, 극단적 사건이 정규 분포보다 더 자주 발생합니다.
  • 거래 비용 미반영: 매매 비용, 슬리피지, 세금 등은 기본 공식에 포함되지 않습니다. 빈번한 거래를 하는 트레이더의 경우, 이러한 비용이 수익률에 상당한 영향을 미칠 수 있습니다.
  • 심리적 요인: 인간은 손실 회피 성향이 있어, 수학적으로 최적이라 하더라도 실행하기 어려울 수 있습니다. 특히 큰 손실 후에는 공격적인 베팅을 회피하는 경향이 있습니다.
  • 자본금 제약: 켈리 기준은 무한한 자본금을 가정하지만, 현실에서는 자본금에 제약이 있습니다. 손실이 발생하면 복구하기 어려우며, 최대 손실 한도를 설정해야 합니다.
  • 실전 트레이딩에서의 활용법

    실제 트레이딩에서 켈리 기준을 활용할 때는 다음의 접근법을 권장합니다:

  • 보수적 확률 추정: 과거 데이터를 기반으로 확률과 배당률을 추정하되, 신뢰 구간을 고려하여 보수적으로 접근합니다. 불확실성이 클수록 더 작은 베팅 비율을 적용합니다.
  • 프랙셔널 켈리 적용: 하프 켈리 또는 쿼터 켈리를 사용하여 변동성을 관리합니다. 일반적으로 변동성이 높은 시장에서는 쿼터 켈리, 안정적인 시장에서는 하프 켈리가 적합합니다.
  • 지속적 재검토: 시장 상황 변화에 따라 파라미터를 정기적으로 업데이트합니다. 시장 구조가 변하면 최적 베팅 비율도 함께 변해야 합니다.
  • 최대 베팅 한도 설정: 절대적 상한을 설정하여 극단적 상황에서의 손실을 방지합니다. 포트폴리오의 일일 최대 손실 한도를 설정하는 것이 좋습니다.
  • 분산 투자: 하나의 자산이나 전략에만 의존하지 않고, 여러 자산과 전략에 켈리 기준을 적용하여 분산합니다.
  • 결론

    켈리 기준은 확률적 우위를 가진 상황에서 최적의 자금 관리 방법을 제공하는 강력한 도구입니다. 그러나 정확한 파라미터 추정의 어려움과 현실적 제약을 고려할 때, 보수적인 프랙셔널 켈리 접근법이 실전에서 가장 효과적입니다. 켈리 기준의 이론적 틀을 이해하고, 현실의 제약을 반영하여 유연하게 적용하는 것이 성공적인 자금 관리의 핵심입니다. 이 계산기를 활용하여 여러분의 트레이딩 전략에 켈리 기준을 적용해 보시기 바랍니다.