Blog16

이 부분의 내용은 Random Variable에 조건부 확률 개념을 더하는 것이라고 생각하면 된다. 그에 따른 PMF, Expectation의 변화를 알아보자. Conditioning on Random Variable on an Event 어떤 Event $A$가 발생했을 때, Random Variable $X$에 관한 PMF는 아래와 같다. $$p_{X\vert A}(x) = P(X=x \vert A) = \frac{P({X=x} \cap A)}{P(A)}$$ 사실 기존 조건부 확률과 크게 다를 것은 없다. 단지 Event를 표현하는 방식에 ${X=x}$가 추가되었을 뿐이다. Conditioning on Random Variable on Another 이번에는 Event $A$ 대신 다른 Random ..

전공/확률과 통계 2020. 10. 24. 23:39

Expectation, Mean, and Variance 여기서는 예전에 설명했던 Random Variable의 종류들에 대한 Expectation과 Variance가 어떻게 되는지만 간단하게 말해줄 것이다. 단, 증명은 단순히 전개하면 알 수 있으므로 생략한다. Expectations of Standard Random Variables Discrete Uniform on ${a, a + 1, \dots, b}$ $$E[X] = \frac{a+b}{2}$$ Bernoulli $$E[X] = (1-p)\cdot 0 + p\cdot 1 = p$$ Binomial $$E[X] = \sum^{n}_{k=0} k\cdot {n \choose k} p^k (1-p)^{n-k} = np$$ Geometric $$E[..

전공/확률과 통계 2020. 10. 24. 23:23

Functions of Random Variables 여기서는 Random Variable이 값이 아닌 함수로 정의되는 경우에 대해 이야기한다. Random Variable $X$와 $f : \mathbb{R} \rightarrow \mathbb{R}$인 함수 $f$가 있다고 하자. 그리고 새로운 Random Variable $Y$를 다음과 같이 정의할 수 있다. $$ Y = f(X) $$ 이런 $Y$의 PMF는 아래와 같다. $$P(Y=k) = P(f(X) = k) = \sum_{o\in \Omega\ such\ that\ f(X(o))=k}P(o)$$ 풀어서 설명하면 $Y=k$의 확률은 $f(X)=k$가 되게하는 outcome $o$들의 확률을 더한 것이다. Expectation, Mean, and ..

전공/확률과 통계 2020. 10. 24. 22:59

2장의 전체적인 내용은 Discrete Random Variable에 관한 것이다. 이 포스팅에서는 Random Variable과 Probability Mass Function(PMF)이 무엇인지에 대해 설명한다. Basic Concepts Random Variable 정의를 그대로 읽어보자면, Random Variable이란 Sample Space를 실수에 매핑하는 함수이다. 다시 말해 입력은 outcome, 출력은 실수인 함수이다. 아직은 말이 어렵다. 예제를 통해 알아보자. Example 4면을 가지고(각 면의 숫자는 1, 2, 3, 4) 모든 면이 나올 확률이 동일한 두 개의 주사위가 있다. 두 주사위를 동시에 던졌을 때 나오는 숫자쌍을 $o\in{\Omega}, o = (o_1, o_2)$라 하..

전공/확률과 통계 2020. 10. 24. 22:46

Probabilistic Independence 두 사건이 독립이라는 말은 한 사건이 발생하든 말든 다른 사건이 발생할 확률은 변하지 않는다는 것이다. 이를 수식으로 옮기면 다음과 같다. $P(A\cap{B}) = P(A)P(B)$ 이 식은 다음과도 같다. $ P(A\vert{B}) = P(A) $ and $ P(B\vert{A}) = P(B) $ Some Ground Rules A와 B가 독립이라면 다음 사건들도 서로 독립이다. A and Bc Ac and B Ac and Bc Independence of Three Events 둘 뿐만 아니라 셋 이상의 사건이 서로 독립이려면 어떤 조건이 성립해야 할까? 알아보자. 세 사건이 서로 독립이려면 다음 네 가지 조건이 만족해야 한다. $P(A\cap{B})..

전공/확률과 통계 2020. 10. 24. 22:17

Total Probability Theorem $A_{1}, \cdots, A_{n}$이 Ω의 partition이면 Event B에 대해 다음 식이 성립한다. $P(B) = P(B\vert{A_{1}})P(A_{1}) + \cdots + P(B\vert{A_{n}})P(A_{n}) = \displaystyle \sum^{n}_{i=1}P(B\vert{A_{i}})P(A_{i})$ 이 식은 $P(A\cap{B}) = P(B\vert{A})P(A)$를 이용한 것이다. 어떤 사건 B의 확률을 구하기 위해서 Ω의 Partition들과 B의 교집합의 확률을 전부 더했는데, 마치 조각난 B를 모아 합치는 느낌이라 보면 된다. Bayes Theorem $A_{1}, \cdots, A_{n}$이 Ω의 partition..

전공/확률과 통계 2020. 10. 24. 18:43

Conditional Probability Discrete Uniform Probability Law Ω가 유한하고 모든 outcome이 동일한 확률로 나온다면, $P(A) = \frac{\left\vert A \right\vert}{\left\vert Ω \right\vert}$ (A의 요소 수 / 전체 outcome의 수) => 모든 요소의 확률이 $\frac{1}{\left\vert Ω \right\vert}$로 동일하기 때문 Conditional Probability(조건부 확률) 어떤 outcome이 발생했는지 알고 있을 때, 다른 outcome이 발생할 확률 Conditional Probability Laws $P(A\vert B)$ : Event B가 일어날 때, Event A도 같이 일어날..

전공/확률과 통계 2020. 10. 24. 18:18

Probabilistic Models Experiments and Sample Spaces 정의 Experiment(시행) 가능한 여러 가지 outcome(결과) 중 한 가지를 만들어내는 과정 Sample Space(Ω) 가능한 모든 outcome의 집합 Events 정의 Ω의 부분 집합. 전체 혹은 일부 outcome의 집합 Atomic Events 정의 하나의 원소만 가지는 Event Probability Laws and Probability Axioms 정의 Probability Laws 이벤트 A ($ A\subseteq{Ω} $)에 대해 0 ~ 1 사이의 숫자를 할당하는 것. 이 숫자는 어떤 Event에 대한 발생 가능성(likelihood)을 표현한다. $ P(A) $로 표현한다. Probab..

전공/확률과 통계 2020. 10. 24. 17:01