確率論

確率論の概要
確率論の基礎概念
確率論の諸定理
- チェビシェフの不等式
- 大数の弱法則
統計学
- 確率モデル
- 共分散行列と主成分分析

確率論の概要

確率論とは

確率論は「確率があらかじめわかっている」ということを前提にスタートする理論である．確率が何によって定まるのかという問題は追求せず，確率が満たすべき性質をいくつか規定し、その性質から導くことのできる定理を突き詰めていく．確率分布（確率モデル）自体を，たとえば観測したデータから推定したり求めたりすることは，統計学の役割であり，確率論ではあくまで個々の確率は既知であるとして解析を始める．

確率論を用いると分かること

ある事象の確率分布が明らかとき、それと因果関係のある事象の確率分布がどうなっているか。
ある因果関係の確率分布（条件付き確率分布）が明らかなとき、残りどんな確率分布が明らかになれば、所望の因果関係を表す確率分布が明らかになるか。

例

たとえば宝くじの場合，何枚売りに出され，そのうち当たりが何枚あるのかという情報は抽選前にあらかじめ決められている．その意味で，当選確率は既知である．その上で確率論を用いれば，宝くじを買うことによる損失あるいは逆に利益について，数理的に数値をあげて答えることができる．
Ｅｘ．期待値や分散など

確率論の基礎概念

標本空間と確率

$\Omega$ を可算集合として， $\Omega$ の部分集合 $A \sub \Omega$ に，写像 $P:A \rightarrow \mathbb{R}$ が与えられているとする．
このとき，全体集合 $\Omega$ とその部分集合 $A$ をそれぞれ標本空間，事象と呼び，部分集合（事象） $A$ の実数値への写像 $P$ を確率という．
標本空間 $\Omega$ の元は根元事象と呼ばれる．
いうまでもなく， $P(A)$ は0と1の間の値をとる関数であり， $P(\Omega) = 1$ である．

確率の有限加法性

事象（部分集合） $A,B$ を同時に満たす $\omega$ が存在しないとき，つまり $A \cap B = \phi$ ならば， $A$ と $B$ は互いに排反であるという．
$A,B$ が排反ならば， $A$ または $B$ が起こる確率は，定義からそれぞれの確率の和になる．
$A \cap B = \phi \Leftrightarrow P(A \cup B) = P(A) + P(B)$
確率の持つこの性質を加法性という．

確率変数 (Probabilistic variable)

標本空間の元（根源事象） $\omega$ が与えられたときに，値が一つ定まるような関数 $X(\omega)$ を確率変数という．
確率変数を用いると， $X$ が $x$ になるような $\omega$ の集合（事象） $\{ \omega | X(\omega) = x \}$ を $X(\omega) = x$ と表すことができる．
$P(X(\omega)=x) = P(\{ \omega | X(\omega) = x \})$

条件付き確率

事象 $B$ に含まれる根源事象を集めたとき（ $\Omega' = \{ \omega | \omega \in B \}$ ），この中から事象 $A$ が起きる確率を条件付き確率と呼ぶ．
条件付き確率は次式で定義される．
$P(A|B) = \frac{\sum_{\omega \in A,B} P(\{\omega\})}{\sum_{\omega \in B} P(\{\omega\})} = \frac{P(A,B)}{P(B)}$
分母は規格化定数である．

条件付き確率の定義を用いると，結合（同時）確率 $P(A,B)$ は次のように展開することができる．
$P(A,B) = P(A|B)P(B)$
また，
$P(A|B) = \frac{P(B|A)P(A)}{P(B)}$
も成り立つ．上式をベイズの定理という．
$P(A|B)$ は事後確率， $P(A)$ は事前確率と呼ばれ， $A$ の関数 $P(B|A)$ は尤度関数と呼ばれる（確率の規格化条件を満たしていないので，確率と区別してこう呼ぶ）．
ベイズの定理は， $P(A|B)$ の確率モデルを作ることが困難な場合（例えば，事象 $B$ の種類が非常に多いとき）に有用である．

期待値 (Expectation)

確率変数 $X$ の期待値は次式で求めることができる．
$E[X] = \sum_{\omega \in \Omega} X(\omega)P(\{\omega\})$

共分散と相関係数（Covariance, Correlation coefficient）

確率変数 $x,y$ の共分散 $\mbox{Cov}(x,y)$ は次式で定義される．
$\mbox{Cov}(x,y) = \mbox{E}[(x-\mu_x)(y-\mu_y)]$
共分散は変数間の関連性を表す指標である．
ただし，単位の異なる変数間の共分散では数値の意味がわかりにくい．
そこで一般的には相関係数が用いられる．
相関係数 $r_{x,y}$ の定義は次式のとおりである．
$r_{x,y} = \frac{\mbox{Cov}(x,y)}{\mbox{E}[x]\mbox{E}[y]}$

確率論の諸定理

チェビシェフの不等式

大数の弱法則

統計学

確率モデル

科学においてモデル化（単純化）には大きく分けて二つある．一つが力学モデルであり，もう一つが確率モデルである．
力学モデル（低次元化）が現象の時間変化を定式化するのに対し，確率モデルでは現象のダイナミクスまでも棄ててしまい，現象の出現確率のみを規定することで現象を表現する．

共分散行列と主成分分析

分散，共分散を行列として整理したものを共分散行列という．共分散行列の固有ベクトルは

「確率論」をウィキ内検索

最終更新：2013年02月02日 11:32

ツールボックス

下から選んでください:

新しいページを作成する

ヘルプ / FAQ もご覧ください。

Novpat's Lab @ ウィキ

確率論