嚴格來說，本文已經包括很多隨機過程的概念。

3 個主要的隨機過程：伯努利（離散）、泊松（連續）、馬爾可夫（有記憶）。

隨機變量和隨機過程，討論的可能是同一組實驗。

隻是 view 不一樣，導致 sample space 不一樣。

隨機過程的 sample space 是 a group of sequence。

伯努利傢族的先輩們，每天扔骰子，扔出瞭一門學科。

在伯努利實驗裡，有 2 類主要問題：

1. 首次成功時的實驗 n 次的概率 -- 幾何分佈
2. N 次實驗中的成功 S 次的概率 -- 二項分佈

有趣的延伸，Bernoulli process 的 sequence 都是二進制的，

可以看作是一個數字的二進制表示。

這也是一種生成隨機數的方式。

關鍵點：

1. Bernoulli process 伯努利實驗 定義

a sequence of independent Bernoulli trials,

at each trial, i:

P(text{success}) = P(X_i = 1) = p

P(text{failure}) = P(X_i = 0) = 1- p

2. Binomial coefficient 二項式系數

定義：

left( begin{matrix} n\ k end{matrix}right) number of k-element subsets of a given n-element set

由圖看出，

left( begin{matrix} n\ k end{matrix}right) cdot k! = frac{n!}{(n-k)!}

所以，

left( begin{matrix} n\ k end{matrix}right) = frac{n!}{k!(n-k)!}

C_n^k 選出來的，是帶排列的。

根據定義，可以得出下列計算

sum_{k=0}^nleft( begin{matrix} n\ k end{matrix}right) = 2^n 所有選法的可能性

扔骰子，N 次獨立實驗，有 K 次正面朝上的概率。

P(k text{ heads}) = sum_{k-text{head seq}}p^k(1-p)^{n-k}=left( begin{matrix} n\ k end{matrix}right)p^k(1-p)^{n-k}

對這個求和，根據定義

sum_{k=0}^nleft( begin{matrix} n\ k end{matrix}right)p^k(1-p)^{n-k} = 1

上述過程，可以看作是隻有 2 個分區的 partition 過程。

如果是 m 個 partitions，每個 partition 有 n_i 個元素，

隨機事件的個數公式：

frac{n!}{n_1!n_2!,cdots,n_m!}

5c1ef149db507dd06349063027baccfc

3. Binormal means and variance

c63029b607f638fc9b7ca162ac160a09

4. Random processes 隨機過程

first view: sequence of random variables X_1, X_2, cdots

可以想隨便變量一樣，計算 數學期望、方差等。

second view: the right sample space.

一個 sequence 是一個 outcome。

sample space 是一族 sequence。

如果實驗次數是無窮的，sample space 裡也會有無窮個 sequence。

每一個 sequence 的概率也都是 0.

又變成瞭一個類似 continuous random variable 的問題。

5. Number of successes S in n time slots。N 次實驗中的成功 S 次的概率

b260bbd0323d963f6f543c189129261b

6. Interarrival times

P(T_1 = t) = (1-p)^{t-1}p, t=1,2,cdots

E[T_1] = frac{1}{p}

text{var}(T_1) = frac{1-p}{p^2}

time of k th arrival

7. Memoryless property 二項分佈、幾何分佈，都是 memoryless 的。

If you buy a lottery ticket every day, what is the distribution of the length of the first string of losing days?

Reference:

• MIT 6.041 Probabilistic Systems Analysis and Applied Probability, Fall 2010 Video 4, 13
• 概率論與數理統計 -- 浙江大學 chapter 1
• wikipedia -- Binomial coefficient