[170211 Probability Theory] 3-5-1. Continuous Probability Distribution - Chi-square Distribution(Definition, Theorem 1)
어제의 실패를 딛고 다시금 오늘 안에 t분포까지 하려고 했으나 카이제곱분포의 양이 생각보다 많아 불가능할 듯 싶다. 일단 이 포스팅을 쓰는 데 전념해야지.
카이제곱분포에 대한 포스팅은 2개로 나눌 예정이다.
With the failure of yesterday, today I've made a will to see the end of Probability Theory. But there are 3 theorems in Chi-square distribution's contents and I guessed that it'll be impossible today. Concentrating to Chi-square posts.
There will be 2 posts for Chi-square.
<카이제곱분포에 대한 기본 내용들>
Note for Chi-square Distribution.
지수분포처럼 카이제곱분포도 감마분포의 특수한 형태이다. 지수분포가 모수 $\alpha =1$, $\theta$에 의해 결정되었다면 카이제곱분포는 모수 $\alpha =\frac{n}{2}$, $\theta =2$로 결정되는 분포인데, 여기에서 $n$은 자유도를 말한다. 카이제곱분포는 자유도에 의해 확률밀도함수가 결정될 것이다. 정리 중에 확률변수를 n개 임의추출하는 정리가 있는데, 이놈의 자유도 $n$ 때문에 증명하면서 헷갈릴 뻔 했다.
앞에서 감마분포의 평균이 $\alpha\theta$, 분산이 $\alpha\theta^2$, 적률생성함수가 $[\frac{1}{1-\theta t}]^{\alpha}$임을 확인했으므로 카이제곱분포의 평균과 분산, 적률생성함수는 각각 $n$, $2n$, $[\frac{1}{1-2t}]^{\frac{n}{2}}$이 된다. 평균과 분산은 적률생성함수를 이용해서도 당연히 확인할 수 있다.
Like exponential distribution, Chi-square distribution is a particular case of Gamma distribution. Let's compare : Exponential distribution has its parameter $\alpha =1$, $\theta$ and Chi-square distribution has its parameter $\alpha =\frac{n}{2}$, $\theta =2$, with $n$ : Degree of Freedom. A Chi-square distribution's probability density function will be determined by new parameter $n$.
There are some theorems need to take n-random variables independently. So if we don't distinguish with Degree of Freedom and the number of taken random variables, we'll be confused in the proof.
We saw that Gamma distribution has its expectation $\alpha\theta$, variance $\alpha\theta^2$, MGF(Moment Generating Function) $[\frac{1}{1-\theta t}]^{\alpha}$. So Chi-square distribution has its expectation $n$, variance $2n$, MGF $[\frac{1}{1-2t}]^{\frac{n}{2}}$. Expectation and variance are, of course, can be calculated with MGF.
<카이제곱분포의 확률밀도함수 $f(x)$, 적률생성함수로 구한 평균과 분산>
Probability density function $f(x)$ and the Expectation and Variance by using MGF of Chi-square distribution.
카이제곱분포의 확률밀도함수에는 2개의 변수 $n$, $x$가 쓰임을 확인하자. 나머진 이해할 수 있으리라 봄
Let's see there are 2 indeterminate $n$ and $x$. Other parts are not so hard.
<정리 1 : $X$가 $N(0, 1)$을 따르면 $X^2$는 자유도 1인 카이제곱분포를 따른다.>
Theorem 1 : If $X \sim N(0,1)$, then $X^2 \sim \chi^2(1)$
사실 노트에는 정규분포 $N(\mu,\sigma^2)$를 따르는 확률변수를 표준화한 변수의 제곱은 자유도 1인 카이제곱분포를 따른다고 적어놨는데, 지금 생각해보면 위의 문장이 더 깔끔한 것 같음. 그래서 증명도 $X$가 $N(0, 1)$을 따르는 것으로 가정하고 $X^2$가 따르는 분포의 적률생성함수가 자유도 1인 카이제곱분포의 것임을 보여 $X^2 \sim \chi^2(1)$을 증명했다.
어쨌거나, 정규분포의 확률변수와 카이제곱분포의 확률변수를 연결짓는 정리이다.
When $X \sim N(\mu, \sigma^2)$, we can get the random variables of $N(0, 1)$ if we standardize $X$ to $\frac{X-\mu}{\sigma}$. So I supposed that $X \sim N(0, 1)$ and showed that MGF of distribution of $X^2$ is Chi-square's MGF with $n=1$.
This theorem makes a connection with the random variable of normal distribution and of Chi-square distribution.
<쓸모 없는 사진이다. 다만 이런 것도 의미가 있으려나 싶어서 해봄>
This shot is useless for your study. It's just a test
위에서 $X \sim N(0, 1)$일 때 $X^2 \sim \chi^2(1)$임을 확인하고 나서, 그렇다면 $X$가 $N(\mu, \sigma)$를 따를 때 $X^2$는 카이제곱분포를 따를까? 싶어서 해 본 뻘짓.
빗금 친 곳 빼고 보면 되지만, 왼쪽 맨 위의 $F(x)$식은 관계없다. 다만 그 아래의 세 줄 짜리는 $X \sim N(m, \sigma^2)$일 때 $[\frac{X-m}{\sigma}]^2 \sim \chi^2(1)$임을 확인해 본 것.
결론은, $e$의 지수가 삼차식으로 나오는 듣도보도못한 적률생성함수가 나와서 제꼈다.
After checking $X \sim N(0,1) \Rightarrow X^2 \sim \chi^2(1)$, I got a question. That is, 'Is it Chi-square probability distribution that $X^2$ follows when $X \sim N(\mu, \sigma^2)$?
You can track the solution except my mistakes.
In conclusion, I passed it because of the form of MGF which has 3rd order polynomial on exponent of $e$. I've never seen the MGF with those form...
