隨機過程(三) Poisson過程的基本理論

在這一節中我們開始處理一個常見的隨機過程: Poisson過程, 這是一個典型的離散型的隨機過程, 藉此我們可以了解離散型隨機過程研究的基本範式. 從理論價值來看, Poisson過程本身也是隨機過程的核心之一, 它從分類上屬於計數過程、獨立平穩增量過程(可加過程)、Markov過程這三個過程的交集, 藉助Poisson過程我們也可以進一步了解這三類過程.

Poisson過程的定義

首先我們需要解釋在上面引言中提到的一個概念: 計數過程, 這個我們在之前的筆記中並沒有給出定義, 這裡我們補上它的定義:

定義(計數過程): 定義在概率空間

[注 1]: 根據定義, 我們知道

[注 2]: 計數過程的軌道一定是個不減函數, 因為

[注 3]: 計數過程的增量

Poisson過程是這樣的一個計數過程: 我們考察一個單行車道上某一時間段內汽車的流量, 可以想到, 在一定的時間尺度下, 小時間段內只會進行一次計數(因為是單行車道), 或者說在時間區間

定義(Poisson過程): 一個計數過程

(1)

(2)

(3)

我們就稱該計數過程為一個參數為

現在我們來看看這個過程滿足什麼特性.  因為

當

這裡

將其解出來:

也就是說我們有

我們將區間

容易看到, 這樣的約定下

我們考慮

也就是說我們有

或者說微分方程

這樣的結構暗示了數學歸納法. 為此我們需要求解得到

它對應了微分方程

代入初值

這表明給定時刻

也就是說Poisson過程的增量同樣服從參數為

定理: 一個增量獨立且從零開始的計數過程

[證:] 必要性我們已經在上面的推理中給出來了, 現在我們來證明充分性, 從已知條件我們可以得知

因為

當

當

當

這樣根據定義, 我們就證明了這個命題.

Poisson過程的性質Poisson過程的數字特徵

回顧我們之前的定義, 我們關注的隨機過程

定理(Poisson過程的數字特徵): 設

(1)

(2)

(3) 對

(4)

[證]: (1)在上一部分我們已經得到了

這直接導致了

(2) 不妨設

當

(3) 注意到

(4) 注意到協方差滿足,  利用(1)和(2)我們就有

證畢.

Poisson過程的可加性

我們知道Poisson分布具有可加性, 即如果

這裡關鍵就是利用

定理: 設

[證]: 我們在上一篇文章中就已經指出了兩個獨立的獨立平穩增量過程的和還是獨立平穩增量過程, 而兩個零初值的隨機過程的初值自然還是零, 因此

設

以及

進而

這樣我們就證明了這個命題.

Poisson過程的可分解性質

這個性質的意思不好直接敘述, 我們直接看下面的定理:

定理: 設

注: 這個定理的這樣表述出來的意義很清晰, 假設一條道路上在一個時間區間內通過的車輛的數目是一個Poisson過程, 我們讓一個人去記錄通過的車輛的數目, 由於種種原因, 這個人無法將每次車輛通過都統計在內(粗心的記錄員), 我們希望從這個人的記錄反推實際情況. 這個定理描述的就是這樣一個模型.

[證]:

這就表明

Poisson過程的到達時刻與時間間隔

我們還是將Poisson過程放到計數過程這個模型中來, 用到達時刻), 用時間間隔, 那麼顯然有

顯然,

我們現在來計算

這是

接下來我們尋找

這是指數分布的密度函數, 因此我們有

最終的結果不含

這是指數分布的分布函數, 因此我們得到了

因而

綜合這些結果, 我們得到了:

定理:

根據這個定理, 我們可以用指數分布生成的隨機數種子去模擬Poisson過程的時間間隔

import random
import matplotlib as mpl 
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np 
import seaborn as sns 
from matplotlib import rcParams

config = {
    "font.family":'serif',
    "font.size": 20,
    "mathtext.fontset":'stix',
    "font.serif": ['SimSun'],
}
rcParams.update(config)


Lambda = 1/6
n = 30
T = np.random.exponential(scale=1/Lambda,size=n) # np.random.exponential(scale,size)中的scale參數為指數分布的參數lambda的倒數
t = np.hstack([[0],np.cumsum(T)]) # 這裡np.hstack(tup)可以幫助我們實現對數組的疊加, 這裡相當於 t=[0] 和 t.append(x) for each in np.cumsum(T)
# np.cumsum(list) 相當於 Sum = []; for each x in list: x += x ; Sum.append(x)
for i in range(n):
        plt.plot((t[i],t[i+1]),(i,i),c='r')
plt.xlabel('$t$')
plt.ylabel('$N_t$')
plt.ylim([0,n])
plt.xlim([0,np.ceil(t.max())])
sns.despine() # 去掉邊框的上邊和右邊
plt.show()
這裡給出一次模擬結果:
一次Poisson過程的模擬
接下來我們敘述到達時刻的條件分布, 在敘述這個定理之前, 我們先介紹一個概念: 順序統計量.
定義(順序統計量): 在總體
我們會用到下面的一個結論:
[引理]: 設總體
[證明]: 設
Poisson過程的推廣
	Poisson過程要求這個過程的強度非齊次Poisson過程, 對應地, 前面介紹的Poisson過程就叫做齊次Poisson過程.
定義(非齊次Poisson過程): 一個計數過程
(1) 
(2) 具有獨立增量性;
(3)  它的增量滿足
我們就稱這個計數過程為一個強度函數為
[Remarks:]
[1]: 仿照之前的方式, 我們可以證明條件(3)與
[2]: 非齊次Poisson過程保留了Poisson過程的獨立增量性, 但是捨棄了平穩增量性.
[3]: 強度函數
[4]: 非齊次Poisson過程的時間間隔不再服從指數分布, 而且也不再相互獨立. 我們以
可見
除了上面的推廣方向以外, 還有下面的一個推廣方向:
定義(複合Poisson過程): 設
則稱
	複合Poisson過程是隨機個隨機變量的和的典型例子, 利用本系列第一篇文章中給出的結果以及全期望公式, 我們可以證明:
定理: 若
(1) 
(2) .
[證明]: (1) 該過程的增量為
考慮到
注意到
(2) 利用全期望公式
於是
進而全期望公式給出
利用全期望公式算直接算方差不好算, 我們改用全期望公式算特徵函數. 得到二階矩後計算方差, 當然我們同時也能算期望:
於是
進而
於是方差為
當然我們可以進一步算出更高階的矩, 不過這裡我們不需要這樣做.
之前我們給出了Poisson過程的分解性質, 利用上面的結論, 我們可以給出一個更簡捷的證明:
假定
就表示了之前我們提到的選擇性記錄過程.  兩點分布的特徵函數為
這是參數為
還有一個推廣方向的結果叫做條件Poisson過程, 定義如下:
定義(條件Poisson過程): 若
條件Poisson過程喪失了增量的獨立性, 但是保留了增量的平穩性.
最後一個推廣的方向源於Poisson過程的一個等價定義:
一個計數過程, 如果相鄰事件的時間間隔獨立同分布於
這個命題的證明比較麻煩, 這裡不給出它的證明. 很顯然, 如果我們將上面的
定義(更新過程): 設
或者
則稱
顯然, 當
  上述這幾個推廣在物理學中應用價值不大, 因此這裡只是簡單介紹一下, 對此有需求則可以翻看相關的教科書.