켈리 공식의 추정 오차: 풀 켈리 대신 하프 켈리를 쓰는 계산상 이유

켈리 공식은 장기 자산 성장률을 가장 크게 만드는 베팅 비율을 알려줍니다. 문제는 공식에 넣는 승률과 손익비가 정답이 아니라 과거 거래에서 뽑은 추정치라는 점입니다. 켈리는 입력값이 조금만 틀려도 결과가 크게 바뀌고, 많이 거는 쪽으로 틀렸을 때의 손해가 적게 거는 쪽으로 틀렸을 때보다 훨씬 큽니다. 이 글은 승률 추정이 5%p 틀렸을 때 무슨 일이 생기는지, 거래 100건으로 추정한 켈리가 얼마나 넓은 범위에 있는지, 하프 켈리가 왜 실무 기본값이 되는지를 숫자로 계산합니다. 본문 숫자는 계산 구조를 보여주기 위한 가정 예시입니다.

1. 켈리 비율 공식 다시 보기

이기면 건 금액의 b배를 벌고, 지면 건 금액을 모두 잃는 단순한 구조를 생각합니다. 승률을 p, 패률을 q = 1 − p라고 하면 켈리 비율은 다음과 같습니다.

트레이딩에서 f는 포지션 크기가 아니라 손절에 걸렸을 때 잃는 금액의 비율입니다. 손절 폭이 2%이고 켈리가 8%라면 포지션 크기는 자본의 8 ÷ 2 = 4배가 됩니다. 손절 폭으로 포지션 크기를 정하는 방법은 포지션 사이징에 정리되어 있습니다.

2. 기준 예시 — 실제 승률 45%, 손익비 1.5

거래 1회당 평균 +0.51%씩 복리로 자란다는 뜻입니다. 거래 200건이면 e^(200 × 0.00515) ≈ 2.80배입니다. 이것이 이 조건에서 얻을 수 있는 최대치입니다.

3. 승률을 5%p 높게 잡으면

최근 거래가 잘 풀려 승률을 50%로 계산했다고 가정합니다. 실제 승률은 여전히 45%입니다.

승률을 5%p 잘못 본 것만으로 같은 전략의 200건 결과가 2.80배에서 1.03배로 내려갑니다. 켈리의 두 배를 걸면 장기 성장률이 거의 0이 된다는 것은 일반적인 성질이며, 그 사이 변동은 훨씬 커집니다. 변동성이 복리 수익을 깎는 구조는 변동성 드래그와 같은 원리입니다.

4. 반대로 적게 걸면 손해가 작다

켈리의 절반인 4.2%를 걸면 어떻게 될까요.

성장률 곡선은 켈리 지점을 꼭짓점으로 한 비대칭 모양입니다. 절반만 걸면 성장률의 약 25%를 포기하지만, 두 배를 걸면 성장률을 거의 전부 잃습니다. 추정치가 틀릴 수 있다면 기대 손해가 작은 쪽, 즉 적게 거는 쪽으로 기울이는 것이 합리적입니다.

앞의 예시에 하프 켈리를 적용하면 의미가 더 분명해집니다. 승률을 50%로 잘못 잡았더라도 추정 켈리 16.7%의 절반인 8.3%를 걸면, 그것이 실제 켈리 8.3%와 정확히 같아집니다. 하프 켈리는 추정 오차에 대한 보험 역할을 합니다.

5. 거래 100건으로 켈리는 얼마나 정확한가

승률 추정의 표준오차는 √(p × q ÷ n)입니다. 표본에서 나온 승률이 50%라면 실제 승률의 범위는 다음과 같습니다.

켈리 비율은 승률에 대한 기울기가 1 + 1/b입니다. 손익비 1.5라면 승률 1%p 오차가 켈리 1.67%p 오차로 커집니다. 승률 구간을 정확하게 구하는 방법은 승률 윌슨 신뢰구간, 필요한 표본 수는 거래 표본 크기를 참고하세요.

6. 손익비 추정도 같은 문제가 있다

승률만 틀리는 것이 아닙니다. 평균 이익은 큰 이익 몇 건에 끌려 올라가기 쉽습니다.

가장 큰 이익 한두 건을 빼고 손익비를 다시 계산해 보면 이 위험을 미리 확인할 수 있습니다. 같은 점검을 프로핏 팩터에 적용하는 방법은 프로핏 팩터의 표본 오차에 있습니다. 또 실제 거래에는 수수료와 슬리피지가 있어 실현 손익비는 백테스트보다 낮게 나오는 경우가 많습니다.

7. 낙폭으로 보면 차이가 더 크다

성장률이 비슷해도 견뎌야 하는 낙폭은 크게 다릅니다. 연속 시간 근사에서 켈리의 c배를 걸 때 자본이 한 번이라도 x배(예: 절반)로 줄어들 확률은 x^(2/c − 1)입니다.

풀 켈리는 계산상 최적이어도 두 번에 한 번은 자본이 반토막 나는 구간을 지나갑니다. 실제로 그 구간을 버티며 같은 비율을 유지하기는 어렵습니다. 연속 손실이 얼마나 자주 오는지는 연패 확률, 자본이 바닥나는 확률은 파산 확률에서 다룹니다.

8. 실무 적용 순서

· 승률과 손익비는 수수료·슬리피지를 뺀 값으로 계산한다
· 승률은 점추정이 아니라 95% 구간 하한으로 켈리를 다시 계산해 본다
· 가장 큰 이익 한두 건을 뺀 손익비로도 켈리가 양수인지 확인한다
· 그렇게 나온 켈리의 1/2 또는 1/4을 실제 위험 비율로 쓴다
· 거래당 위험 비율을 손절 폭으로 나눠 포지션 크기를 정한다
· 여러 포지션을 동시에 들고 있으면 합산 위험 기준으로 다시 나눈다
· 표본이 쌓이면 추정치를 갱신하되, 최근 몇 건의 결과로 비율을 바로 올리지 않는다

정리

켈리 공식은 입력값이 정확할 때만 최적입니다. 실제 승률 45%·손익비 1.5에서 승률을 50%로 잘못 잡으면 켈리가 8.3%에서 16.7%로 두 배가 되고, 거래당 성장률은 0.51%에서 0.01%로 떨어집니다. 거래 100건의 승률 구간만으로도 켈리는 0%에서 33%까지 퍼집니다. 반면 하프 켈리는 최대 성장률의 약 75%를 유지하면서 자본이 절반이 될 확률을 50%에서 12.5%로 줄입니다. 추정치가 틀릴 수밖에 없다는 점을 전제로, 켈리는 상한으로 보고 그보다 적게 거는 것이 계산상 합리적입니다.

주의

본문의 승률, 손익비, 성장률, 확률은 계산 구조를 보여주기 위한 가정 예시이며 특정 개인·계좌·전략의 실제 성과가 아닙니다. 켈리 공식과 낙폭 확률은 거래가 서로 독립이고 분포가 일정하다는 가정 위의 근사이며, 실제 시장에서는 갭·급변·상관된 손실 때문에 결과가 더 나쁠 수 있습니다. 이 글은 교육 정보이며 특정 자산의 매매 권유가 아닙니다. 코인 선물 거래는 원금 손실 위험이 크고, 투자 판단과 그 결과는 본인 책임입니다.