유용한 확률(Probability) 이론

확률이론은 게임이나 주식등 우리 인간이 불확실성에 대해 인정하는 부분에 사용되는 매우 중요한 수학이다. 확률이론이 어렵다고 느끼는 일면에는 인간은 불확실한것보다 쉽게 예측가능하고 규정지을 수 있는 것을 더 선호하기 때문일지도 모른다. 이런 대상의 이론적 추론 방법론을 구분하기 위해 “deterministic”과 “Stochastic”이라는 단어를 여러 분야에서 사용한다.

세상은 불확실한것이 많으므로 이것을 수학적 추론에 반영하기 위해서는 반드시 확률의 개념이나 분포(distribution)의 개념이 포함되어야 한다. 그러나 다행이도 복잡하고 어려울것 같은 확률도 기본적 개념만 가지면 대부분 실제 수학적 추론에 어렵지 않게 사용될 수 있다. 개인적으로 그동안 중요하다고 생각되는 개념을 이번 포스팅에서 정리하고자 하며, 추가할 필요가 있을때 계속해서 업데이트할 생각이다.

기본 개념

  • 모든 경우의 수에 대한 확률의 합은 1이다.
  • 일어날 수 있는 사건중 사건 A또는 사건 B가 일어날 확률은 합의 확률이다. 각가의 확률을 합한 값이 최종 확률이다.
  • 반면, 사건 A와 사건 B가 동시에 일어날 확률은 곱의 확률이다. 각각의 확률을 곱한 값이 최종 확률이다.

Uniform Probability/Distribution

우리가 추론하고자 하는 대상의 예측이 완전히 불가능할때 나타나는 확률이다. 어느 정도라도 예측이 가능하다면, 일어날 일에 대한 확률 값은 다른 일에 비해 높게된다. 그러나 완전히 예측 불가능하다면 모든 발생 가능한 일에 대해 같은 확률 값을 가진다. 예를 들어 동전을 던져 앞면이나 뒷면이 나올 확률은 완전히 예측 불가능하기 때문에 모두 같은 확률 값(0.5)를 가진다. 사실 이 개념은 물리적 해석이 더 중요하다. 각 분야에서 chaos, maximum entropy, total confusion, unknown, random등으로 표현된다.

Total Probability Theorem

어느 사건이 일어날 경우의 수를 모두 규정하고 그 가능성을 모두 합하여 그 사건이 일어날 확률을 구하는 것을 의미한다. 가장 많이 사용 되는 확률이론일 것이며 아래와 같이 정의 할 수 있다.

P(A) = \sum_X P(A | X) \cdot P(X)

여기서,

  • P(A) 와 P(X) 는 관측 A와 X가 일어날 확률이다.
  • P(A | X)는 X가 발생한 상태에서 A가 일어날 확률이며, 조건부 확률(conditional probability)를 의미한다.

예를 들어 동전던지기를 생각해 보자, 동전의 뒷면(B)이 나오면 그 결과 값을 반영하고, 앞면(A)이 나오면 다시 한번 던져서 나온 결과값을 반영하기로 했다고 가정하면, 앞면이 나올 확률은 얼마일까? 수식이 없어도 유추 가능하다. 앞면이 나올 확률은 첫번째로 던져서 앞면이 나오고 두번째 던져서 다시 앞면이 나올 확률이다. 그러므로 각각의 확률 1/2을 곱한 (1/2 x 1/2) 값인 1/4가 확률 값이다. 이것을 앞서 적은 수식에 적용해 보자.

P(A) = \sum_X P(A | X) \cdot P(X) = P(A | B) \cdot P(B) +P(A | A) \cdot P(A) = 0 \cdot 0.5 + 0.5 \cdot 0.5 = 0.25

Bayes’ Theorem

A와 B가 일어나는 사건/경우(event)를 의미한다고 하면, Bayes’ theorem은 아래와 같은 수식으로 표현된다.

P(A|B) = \frac {P(B|A) \cdot P(A)}{P(B)}

수식은 간단하지만, 매우 유용한 개념이다. 다시 동전을 사용하여 두개의 동전중 하나는 정상적인(F) 동전이고 다른 하나는 비정상적인 동전(L)으로 앞면(A)이 나올 확률이 0.1이라고 가정하자. 만약 두개의 동전중 하나의 동전을 골라 앞면이 나왔다면 이 동전이 정상적인 동전(F)일 확률은 얼마일까? 위 식을 사용해 보자.

P(F|A) = \frac {P(A | F) \cdot P(F)}{P(A)} =\frac {P(A | F) \cdot P(F)}{P(A|F)P(F) + P(A|L)P(L)}  = \frac {0.5 \cdot 0.5}{0.5 \cdot 0.5 + 0.1 \cdot 0.5} = 5/6  

Advertisements

유용한 확률(Probability) 이론”에 대한 답글 1개

답글 남기기

아래 항목을 채우거나 오른쪽 아이콘 중 하나를 클릭하여 로그 인 하세요:

WordPress.com 로고

WordPress.com의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Google+ photo

Google+의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Twitter 사진

Twitter의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Facebook 사진

Facebook의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

%s에 연결하는 중