학문에서의 확률

"두 사람이 도박 게임을 하다가 한 사람이 앞서고 있는 상황에서 경기가 중단됐다. 이 경우 돈을 어떻게 나눠야 할까."

17세기 유명한 도박사 드 메레가 이 고민을 해결하기 위해 수학자이자 철학자인 파스칼에게 편지를 보냈다. 파스칼은 페르마에게 도움을 요청했고 두 사람은 서신을 주고받으며 논의했는데, 이것을 확률이론의 시작으로 본다. 도박에서 확률이란 학문이 탄생했다는 이야기다.

보험업에 쓰이는 '대수의 법칙'
주식시장서 적용되는 '불확실성의 이론'
결국 실생활과 밀접

이후의 확률이론사에서 중요한 인물은 베르누이와 라플라스다. 베르누이가 정립한 '통계적 확률'은 어떤 사건이 일어날 가능성은 유사한 조건 아래 과거에 그 사건이 일어난 가능성과 비슷하다는 가정을 바탕으로 한다. 일기예보의 강수 확률이 대표적인 예다. 반면 라플라스의 '수학적 확률'은 전체 경우의 수와 부분 경우의 수의 비, 즉 수학 교과서에서 배우는 바로 그 확률이다. 동전을 던질 땐 1/2, 주사위는 1/6 처럼 딱 떨어진다. 단, 경우의 수가 무한일 때, 가능성이 균등하게 나누어지지 않을 때에는 적용하기 힘들다.

18세기 스코틀랜드의 토마스 베이즈가 고안한 '베이즈의 정리'도 중요한 개념이다. 일종의 역확률인데, 재판에서 배심원이 피고인에 대해 '범인일 가능성이 반반'이라는 선입견을 갖고 시작해 증언 과정에서 그 생각을 수정해 가는 과정을 떠올려 보면 쉽다. 고등학교 교과서에서는 이를 조건부확률이라고 한다. 인터넷쇼핑에서 주문과 문의를 분석해 소비자의 구매욕구를 거슬러 추정하는 것도 같은 원리다.

'대수의 법칙'은 모든 확률과 통계의 기본이다. 개개인의 수명은 서로 달라 누가 몇 살에 죽을지 불분명하지만 많은 사람들을 장기간 통계내 보면 각 연령층에서 사망자의 비율, 즉 인간의 평균 수명이 일정한 값에 가까워진다는 것이 가장 쉬운 예다. 이를 기초로 보험금액과 보험료율을 계산하는 것이 보험 사업이다.

최근의 확률 이론은 불확실성에 집중한다. 1921년 경제학자 프랭크 나이트는 확률을 계산할 수 있는 불확실성을 '리스크'라고 해서 확률조차 알 수 없는 진정한 불확실성과 구별했다. 이것이 나이트의 불확실성이론이다. 현대 주식시장의 의외성이 좋은 예. 그는 확률론이 발판으로 삼고 있는 추상적이고 공간적인 시간 대신 '실시간'을 기초로 삼아야 한다고 주장했다. 최혜규 기자 iwill@