独立同分布（iid）の意味と期待値、分散について

1. 独立同分布（iid）とは？

「独立同分布」という言葉は、「独立」と「同分布」という2つの条件を満たす確率変数を指します。

分布という名前がついていますが、ポアソン分布や一様分布のような何か特定の分布をさすわけではないので注意。

英語で「独立同分布」は independent and identically distributed といい、略して i.i.d. または iid と書かれます。

ふゅか

「独立同分布」って聞いたことある？ なんか言葉がカタそうだけど！

はるか

iid。…分布って名前だけど、特定の形はない。

1.1. 独立（Independent）

• あるデータの値が、他のデータの値に影響されないこと。
• 例：サイコロを1回振って出た目は、次に振ったときの結果に影響を与えない。→ 各回の結果は独立。

1.2. 同分布（Identically Distributed）

• 全てのデータが同じ確率の分布から生まれていること。
• 例：同じ種類のサイコロを何回も振るなら、どの回も「1～6が同じ確率で出る」という同じルールに従っている。→ 同じ分布

2. 数式での表現

ふゅか

$X_1, X_2, …, X_n$ が iid っていうのは、全部独立で同じ分布ってことなんだね！

はるか

そのまま記号で書いただけ。

3. 期待値と分散

3.1.  各 $X_i$ の期待値は同じ

$$ E[X_i] = \mu \quad \text{for all } i $$

つまり、どの $X_i$ も同じ母平均 $\mu$ を持つということです。

これは「同分布（identically distributed）」であることの意味そのものです。 分布が同じなら、平均（期待値）・分散・分布の形もすべて同じです。

3.2. 注意すべき点

「期待値がすべて同じ」＝「各データの値が同じ」 ではありません！

3.3. 各 $X_i$ の分散

i.i.d.の前提では：

$$ \mathrm{Var}(X_i) = \sigma^2 \quad \text{for all } i $$

つまり、全ての $X_i$ は同じ分散（ばらつき）を持っているという意味です。