平稳序列
平稳序列中,往往(X1,⋯,Xn)与Xn+1不独立。所以利用历史样本来预测未来时间就有了可能。
一般来讲,获取平稳序列的办法是:将时间序列的趋势项和季节项都去掉。只留下随机项。
首先看一下自协方差函数。它满足三条性质(称为非负定序列):
- 对称性
- 非负定性:自协方差矩阵是非负定的。
- 有界性:|γk|≤γ0
样本的自协方差函数:γk^=1N∑N−kt=1(xt+k−x¯)(xt−x¯)
模型与基本数据
- 平稳序列的平稳性主要体现在均值不变、方差有限。别的限制很弱。自协方差函数的不变性仍然允许周期性的出现。
- 平稳序列的周期性:可以体现在它的自协方差函数。
- 时间序列的线性变换指的是对每个r.v.进行线性变换,而不是多个r.v.的加和。平稳序列经过线性变换之后仍然是平稳序列。
- 分类:独立白噪声、零均值白噪声、标准白噪声、正态白噪声……
- 白噪声主要用来描述简单随机干扰。
- Poisson白噪声:Poisson过程减去均值,就是一个Poisson白噪声。
- 布朗运动和正态白噪声
- 调和白噪声(Xt=bcos(at+Ut))注意,它是没有周期性的。
- 对于零均值的平稳序列,正交性与不相关性等价。
- 正交序列与平稳序列的和的自协方差函数
- 定义:由白噪声的线性组合构成的平稳序列。
- 有限运动平均MA:形式为Xt=a0ϵt+a1ϵt−1+⋯+aqϵt−q 经过简单计算我们可以得到它的均值(0)和自协方差函数。我们可以很清楚地定义它为q相关的。
- 推广到无穷情形,我们需要两个工具,用来求无穷个r.v.的和的数学期望。如下:
- 单调收敛定理:非负单调递增r.v.{ξn}, 如果ξn→ξ,a.s. 那么Eξ=limnEξn. 即非负单调递增r.v.序列如果有极限,那么极限与期望(积分)可以交换。
-
- 控制收敛定理:几乎处处有界的r.v.序列,如果有极限,那么期望与极限可以交换,
- 有上面两个定理,我们就可以给出线性平稳序列的各种性质了!
- 控制收敛定理:几乎处处有界的r.v.序列,如果有极限,那么期望与极限可以交换,
- 线性平稳序列:对于绝对可和的实数序列{at},Xt=∑∞−∞ajϵt−j
- 容易得到,它是零均值的(控制收敛定理) ,自协方差函数γk=σ2∑∞−∞ajaj+k(控制收敛定理)。
- 一般只要求平方可和,这时仍然是平稳的序列。(平方可和弱于绝对可和)
- 若一个序列是零均值白噪声的线性组合,系数序列平方可和,那么自协方差函数γk→0
- (当然,我们也可以取单面滑动平均。这也是应用时间序列分析中最常用的方法)
时间序列的线性滤波
- 线性低通滤波器
- 例子:保时线性滤波器。绝对可和的H={hj}。经过它可以输出Yt=∑∞−∞HjXt−j. 它是平稳的。有自协方差函数:γY(n)=∑∞j,k=−∞hjhkγn+k−j.
严平稳序列
- 同分布时间序列的定义:对两个时间序列的任意有限维时间采样,都是同分布的。
- 严平稳序列:任意的k,n,连续n个采样和向后平移k个位置的两个r.v.是同分布的。即平移不变性。对任何多元函数ϕ(x1,⋯,xm),Yt=ϕ(Xt+1,Xt+2,⋯,Xt+m)仍然是严平稳序列。
*严平稳序列的遍历性:意义是 从一次实现x1,x2,⋯可以推出所有有限维分布F(X1,⋯,Xm). 对于严平稳遍历序列{Xt}我们有遍历定理如下:
- 强大数律:若一阶矩有限,那么样本均值收敛到均值,a.s.
- 对于任何多元函数ϕ(x1,⋯,xm),Yt=ϕ(Xt+1,⋯,Xt+m)为严平稳序列。
另有严平稳遍历序列的判定定理:如果{ϵt}is iid WN(0,σ2),∑∞j=1a2j<∞,那么Xt=∑∞−∞ajϵt−j,是严平稳遍历序列。
也就是说,如果一个序列是严平稳遍历的,那么在几乎必然的意义下,基于每一次观测都可以决定序列的有限维分布
平稳序列的谱函数
这个东西是类似于单个随机变量的分布函数或密度函数存在的。平稳序列的二阶统计性质可以由它的 谱分布函数或谱密度函数刻画。
- 谱分布函数:如果平稳序列有自协方差函数{γk},
- 如果有[−π,π]上的单调不减右连续函数F(λ),使得γk=∫∞−∞eikλdF(λ),F(−π)=0,k∈ℤ
- 如果有[−π,π]上的非负函数f(λ),使得γk=∫∞−∞f()λ(eikλdλ,那么f(λ)就是谱密度函数。
- 谱分布函数:如果平稳序列有自协方差函数{γk},
- 平稳序列的谱函数总是唯一存在的!(Herglotz定理)(a.s.意义下)。
- Xt=∑∞−∞ajϵt−j有谱密度f(λ)=σ22π|∑ajeijλ|
- 正交序列的线性组合的谱函数等于对应的谱函数的线性组合。
思考
平稳序列的例子
总结
- 上一篇: 《数字图像处理》冈萨雷斯版 读书笔记(一
- 下一篇: 史上最全Java学习资料,共14W字,耗