分类 O21.概率统计 下的文章

摘 要 在线性回归模型的方差分析中, 自由度一般被形象地表述为自由取值的变量个数, 即变量总数减去限制条件的数量. 这种表述虽然易于理解但是并不本质. 本文讲述自由度的一个严格定义: 方差分析中的每一个平方和都可以写成二次型的形式, 而自由度是这些二次型矩阵的秩.

- 阅读剩余部分 -

  笔者现开一个名为“概率论拾遗”的专栏, 旨在讲述本科概率统计课程中的一些常常遗漏却重要的角落知识点. 本专栏以单篇文章的形式来串联零散的小知识点, 读者请在本博客的“概率论拾遗”标签中查阅本专栏的所有文章.

摘 要 本文介绍指数族分布, 即密度函数可以写成指数形式
$$p(x)=\exp\Bigg(\sum_{k=1}^m \eta_k(\boldsymbol\theta)T_k(x)-A(\boldsymbol\theta)+B(x)\Bigg)$$
且支撑集与参数无关的概率分布. 本文说明指数形式中各函数的性质, 并举例若干常见的可以写成指数形式的概率分布.



- 阅读剩余部分 -

1 先验分布与后验分布

1.2 Bayes 公式

  Bayes 统计涉及到五个随机变量/函数, 定义它们的记号如下:

参数先验参数后验样本参数联合似然 (样本分布)样本边缘分布
随机变量$\theta$$\theta\!\mid_{\boldsymbol x}$-$X\!\mid_\theta$$X$
概率密度$\pi(\theta)$$\pi(\theta\mid\boldsymbol x)$$h(\boldsymbol x,\theta)$$p(\boldsymbol x\mid\theta)$$m(\boldsymbol x)$
数学期望$E\theta$$E\theta\!\mid_{\boldsymbol x}$-$EX\!\mid_\theta$$EX$

- 阅读剩余部分 -

2 随机过程

2.3 随机过程的基本类型

2.3.1 平稳过程

严平稳过程 对于随机过程 $\mathcal X=\{X_t\}_{t\in T}$, 若 $\forall t_1,t_2,\cdots,t_n,h$ s.t. $\{t_1,t_2,\cdots,t_n\}\cup\{t_1+h,t_2+h,\cdots,t_n+h\}\subseteq T$, 都有
$$(X_{t_1},X_{t_2},\cdots,X_{t_n})^T=(X_{t_1+h},X_{t_2+h},\cdots,X_{t_n+h})^T$$
即有限维分布关于时间平移不变. 则称 $\mathcal X$ 是严平稳的.



- 阅读剩余部分 -