[170209 확률론] 3-3. 연속확률분포 - 감마분포

[170209 Probability Theory] 3-3. Continuous Probability Distribution - Gamma Distribution

LaTeX의 힘을 얻어 쓰는 첫 포스팅. 한 번 테스트해보자 ㅎㅎㅋ

It's the first posting with LaTeX. I'll test those usefulness :/

<감마분포 설명과 정의(감마함수는 덤)>
Explanation and Definition of Gamma Distribution.(+Gamma Function)

감마함수는 왠만큼 수학을 건든 사람은 알겠지만 계승과 연관이 있다. 어떤 자연수를 집어넣으면 거기서 1을 뺀만큼의 계승을 계산해주는 함수이다. 즉 $\Gamma(\alpha)=(\alpha-1)!$이 되는 셈이다.
흥미로운건 감마함수는 자연수 외에 양의 실수를 집어넣을 수 있다는 것 정도일까.

오늘 감마분포 공부를 하면서 이놈이 지수분포의 일반형임을 깨달았다. 지수분포는 감마분포의 $\alpha=1$ 버젼인 셈이다. 그래서 감마분포는 모수를 2개 갖게 되는데, 사상 발생 횟수 $\alpha$와 푸아송분포의 모수 $m$에서 유도되는 $\theta=\frac{1}{m}$다.

Gamma Function is quite famous function which is connected with Factorial. If you put a natural number $n$, it makes the factorial of $n-1$. That is, $\Gamma (\alpha )=(\alpha -1)!$
One interest thing is the domain of Gamma function contains the set of positive real numbers.

Today I recognized that Gamma distribution is a generalization of exponential distribution. Exponential distribution is $\alpha=1$ case of Gamma distribution. So Gamma distribution has 2 parameters, $\alpha$ : the number event occurred and $\theta=\frac{1}{m}$ derived from the parameter $m$ of Poisson distribution.

<감마분포의 기댓값과 분산, 적률생성함수>
The Expectation and Variance and MGF of Gamma distribution.

적률생성함수로부터 구한 기댓값과 분산이 정의에 의해 계산된 것과 같음을 확인하고 넘어가자.

분포함수의 경우 지수분포의 유도과정처럼 감마분포의 유도과정에서 아이디어를 얻을 수 있지만, 시그마의 범위가 0에서 $\alpha-1$까지 끊겨있어서 딱 어떻게 정리할 수가 없었다. 계산하는 방법만 알면 구할 수 있겠거니 하고 넘어갔다.

Let's see the expectation and variance calculated by MGF are equal to them calculated by definition.

We can get distribution function from derivation of Gamma distribution, by same with exponential distribution. But I couldn't simplify it because of bounded summation from 0 to $\alpha-1$. I passed it without calculation but solve direction.

<감마분포의 유도과정. 지수분포의 그것과 비슷하다.>
Derivation of Gamma Distribution. Similar to exponential's.

지수분포가 $\alpha=1$일 때를 유도한거였다면 감마분포는 일반화된 $\alpha$값에 대한 확률분포이다.($\alpha$는 사상이 몇 번 발생하면 시행을 멈추겠는가 하는 사상 발생 횟수임을 기억하자. 처음 접하거나 익숙치 않은 사람이라면 두 모수의 역할이 헷갈릴 수 있다.)

아이디어는 1. 분포함수의 식은 이러하다
→ 2. 미분하면 확률함수가 나온다
→ 3. $m$을 $\frac{1}{\theta}$로 바꿔준다'의 순서로 진행된다.
또, 마지막 부분에서 $(\alpha-1)!$을 $\Gamma(\alpha)$로 바꿔준 것에 유의하자.

미분할 때의 계산이 상당히 복잡해보인다. 이 때 우리가 주목해야 할 건 앞과 뒤의 시그마 식 형태가 x부분을 제외하고는 모두 같다는 점이다. 즉 아랫줄처럼 시그마의 범위를 바꿔줄 수 있고, 1에서 $\alpha -2$까지의 대입값은 서로 지워지는 셈.

Exponential distribution is derived from $\alpha=1$ condition and Gamma distribution is derived from arbitrary $\alpha$.(Remember $\alpha$ is the number of event occurred till the trial end. We will be confused with the role of 2 parameters if we aren't skilled with them.)

Solve direction is the following.
1. Distribution function is blah blah
→ 2. After differentiation, we can get the probability function
→ 3. Change $m$ to $\frac{1}{\theta}$
At last part, we can see $(\alpha-1)!$ has changed $\Gamma(\alpha)$.

Calculation of f(t) seems quite complex. It is what we should focus on that left summation and right summation have same term.(Just different : $x$ and $x-1$)
So after the interval of summation changed, we can solve it simply than thought.

<감마분포의 기댓값, 분산, 적률생성함수. 지수분포는 여기에 $\alpha = 1$ 대입>
Expectation, Variance, MGF of Gamma distribution. Exponential's are $\alpha =1$

셋 모두 감마분포의 확률합이 1임을 활용해야 한다. 
x가 상당히 쉽게 식 안으로 빨려들어가므로, $\alpha$가 포함된 부분만 $\alpha +1$(평균), $\alpha +2$(분산)로 잘 바꿔주면 계산이 끝난다.

적률생성함수를 구할 때에는 계산이 살짝 어려워지는데, 영 못 할 정도는 아니다. $e$의 지수가 어떻게 바뀌는지 유심히 보고, 모수 $\theta$의 형태를 적당히 바꿔주고 대응값을 곱해주면 된다. 그럼 적분값은 자연히 확률합 1이 되어 사라지고 간단한 식이 남는다.

감마분포의 적률생성함수가 지수분포의 것을 $\alpha$제곱한 형태임에 유의.

All three calculation need that the probability summation is 1.
$x$ will be easily absorbed into the formula. Then we should change $\alpha$ to $\alpha +1$(for expectation) or $\alpha +2$(for variance)

Calculation of MGF is little more hard. Stare exponent of e changing, and change parameter $\theta$ properly(to $\frac{1}{\theta }-t$) and multiply $ [\frac{\frac{1}{\theta }}{\frac{1}{\theta }-t}]^{\alpha} $. Integral will be the Gamma probability summation with parameter $\alpha$, $\frac{1}{\theta}-t$.
Now we can get the MGF of Gamma distribution.

Focus on Gamma distribution's MGF is $\alpha$-powered version of Exponential's.

LaTeX를 이용해보니 글이 전보다 훨씬 부드러워졌다.
으음, 이 발전을 머릿속에 남기기 위해 이전의 포스팅들을 굳이 고칠 필요는 없을 듯. ㅎㅎ

With LaTeX, reading post became smooth.
I won't fix my posts already written to remain my growth :)