켈리 공식으로 베팅 크기를 정하는 방법과 실전 한계

켈리 공식이 해결하려는 문제

베팅에서 기댓값이 플러스인 기회를 찾았다고 가정해봅시다. 그다음 질문은 “얼마를 걸 것인가”입니다. 너무 적게 걸면 이익이 미미하고, 너무 많이 걸면 연패 한 번에 자금이 바닥납니다. 1956년 AT&T 벨 연구소의 존 래리 켈리 주니어가 발표한 켈리 공식은 이 문제에 대한 수학적 해답입니다. 장기적 자산 성장률을 극대화하는 최적 베팅 비율을 산출합니다.

공식 자체는 단순합니다. f = (bp – q) / b. 여기서 f는 전체 자금 대비 베팅 비율, b는 순배당(이기면 받는 금액을 베팅액으로 나눈 값), p는 이길 확률, q는 질 확률(1-p)입니다. 이 한 줄이 정보 이론과 도박 수학을 연결하는 핵심 공식입니다.

구체적인 계산 예시

이길 확률 55퍼센트, 배당 1배(이기면 베팅액만큼 받음)인 상황을 가정합니다. f = (1 x 0.55 – 0.45) / 1 = 0.10. 전체 자금의 10퍼센트를 한 번에 걸라는 뜻입니다. 자금이 500만 원이면 50만 원, 300만 원으로 줄었으면 30만 원입니다. 자금이 줄면 베팅액도 줄고, 자금이 늘면 베팅액도 느는 비례 구조라서, 이론적으로는 파산하지 않습니다(베팅액이 0에 수렴할 뿐 0이 되지는 않으니까요).

이길 확률이 52퍼센트로 내려가면 f = (1 x 0.52 – 0.48) / 1 = 0.04. 자금의 4퍼센트입니다. 51퍼센트면 2퍼센트, 50.5퍼센트면 1퍼센트. 우위가 미세할수록 켈리 비율이 급격히 줄어듭니다. 반대로 말하면, 작은 우위에서 큰 금액을 거는 것은 켈리 공식이 명시적으로 금지하는 행동입니다.

카지노 게임에 적용하면

켈리 공식의 전제는 플러스 기댓값입니다. p가 손익분기점 이상이어야 f가 양수로 나옵니다. 바카라, 룰렛, 슬롯 같은 게임은 모든 베팅의 기댓값이 마이너스이기 때문에 켈리 공식을 적용하면 f가 음수로 나옵니다. 음수라는 것은 “걸지 마라”라는 뜻입니다. 켈리 공식은 카지노 게임에 적용할 수 없는 것이 아니라, 적용한 결과가 “이 게임에 베팅하지 않는 것이 최적”이라고 정직하게 말해주는 것입니다. 이 사실 자체가 마이너스 기댓값 게임의 본질을 보여주는 강력한 도구입니다.

그렇다면 켈리 공식이 실제로 쓰이는 곳은 어디일까요. 스포츠 베팅에서 자신만의 확률 모델로 시장 배당률보다 정확한 예측을 할 수 있다고 판단한 경우, 또는 포커에서 상대방의 범위를 읽어 양의 기댓값을 확보한 경우처럼 플레이어가 실제 우위를 가질 수 있는 상황에서 적용됩니다. 주식이나 옵션 같은 금융 시장에서도 변형된 형태로 쓰이는데, 이쪽에서도 입력값의 불확실성이 가장 큰 약점입니다.

하프 켈리와 실전의 괴리

켈리 공식대로 걸면 이론적으로 장기 성장률이 극대화되지만, 현실에서는 그 과정의 변동성이 극심합니다. 자금이 50퍼센트 이상 감소하는 드로우다운이 빈번하게 발생하고, 이를 심리적으로 감당할 수 있는 사람은 거의 없습니다. 그래서 실전에서는 켈리 비율의 절반만 거는 하프 켈리가 널리 쓰입니다. 하프 켈리는 성장률을 약 75퍼센트 수준으로 유지하면서 변동성을 크게 줄입니다. 드로우다운 폭도 상당히 완화되기 때문에, 수학적 최적이 아니라 심리적으로 지속 가능한 지점을 찾는 것이 실전의 과제입니다. 브라운 대학교의 Seeing Theory 프로젝트에서 확률과 기댓값의 시각적 시뮬레이션을 제공하고 있는데, 켈리 비율에 따른 자금 곡선의 차이를 직관적으로 확인해볼 수 있습니다.

공식 너머의 판단

켈리 공식이 알려주는 건 최적 비율이지, 이길 확률을 어떻게 추정하느냐는 별개의 문제입니다. 스포츠 베팅에서 자신이 추정한 승률이 52퍼센트인데 실제 승률이 49퍼센트라면, 켈리 공식은 잘못된 입력값 위에서 돌아가고 결과도 엉뚱해집니다. 공식의 정밀도보다 입력값의 정확도가 결과를 좌우합니다. 자기 추정 능력에 대한 과신이 켈리 공식을 위험하게 만드는 가장 흔한 경로입니다. 공식을 아는 것과 공식을 올바르게 쓸 수 있는 것 사이에는 경험이라는 간극이 있습니다. 확률 추정에 자신이 없다면 켈리 비율의 4분의 1 수준, 이른바 쿼터 켈리로 시작해서 자신의 추정 정확도를 먼저 검증하는 접근이 현실적입니다.