# 概率和统计回顾 Star

## 概率和组合导引

$\boxed{0\leqslant P(E)\leqslant 1}$

$\boxed{P(S)=1}$

$\boxed{P\left(\bigcup_{i=1}^nE_i\right)=\sum_{i=1}^nP(E_i)}$

$\boxed{P(n, r)=\frac{n!}{(n-r)!}}$

$\boxed{C(n, r)=\frac{P(n, r)}{r!}=\frac{n!}{r!(n-r)!}}$

## 条件概率

$\boxed{P(A|B)=\frac{P(B|A)P(A)}{P(B)}}$

$\boxed{\forall i\neq j, A_i\cap A_j=\emptyset\quad\mbox{ et }\quad\bigcup_{i=1}^nA_i=S}$

$\boxed{P(A_k|B)=\frac{P(B|A_k)P(A_k)}{\displaystyle\sum_{i=1}^nP(B|A_i)P(A_i)}}$

$\boxed{P(A\cap B)=P(A)P(B)}$

## 随机变量

### 定义

$\boxed{F(x)=P(X\leqslant x)}$

PDF 和 CDF 的关系 ― 这里是离散和连续场景下的重要性质。

 类型 CDF $F$ PDF $f$ PDF 的性质 (D) $\displaystyle F(x)=\sum_{x_i\leqslant x}P(X=x_i)$ $f(x_j)=P(X=x_j)$ $\displaystyle0\leqslant f(x_j)\leqslant1\mbox{ et }\sum_{j}f(x_j)=1$ (C) $\displaystyle F(x)=\int_{-\infty}^xf(y)dy$ $f(x)=\displaystyle \frac{dF}{dx}$ $\displaystyle f(x)\geqslant0\mbox{ et }\int_{-\infty}^{+\infty}f(x)dx=1$

 类型 $E[X]$ $E[g(X)]$ $E[X^k]$ $\psi(\omega)$ (D) $\displaystyle \sum_{i=1}^nx_if(x_i)$ $\displaystyle \sum_{i=1}^ng(x_i)f(x_i)$ $\displaystyle \sum_{i=1}^nx_i^kf(x_i)$ $\displaystyle\sum_{i=1}^nf(x_i)e^{i\omega x_i}$ (C) $\displaystyle \int_{-\infty}^{+\infty}xf(x)dx$ $\displaystyle \int_{-\infty}^{+\infty}g(x)f(x)dx$ $\displaystyle \int_{-\infty}^{+\infty}x^kf(x)dx$ $\displaystyle\int_{-\infty}^{+\infty}f(x)e^{i\omega x}dx$

$\boxed{\mbox{Var}(X)=E[(X-E[X])^2]=E[X^2]-E[X]^2}$

$\boxed{\sigma=\sqrt{\mbox{Var}(X)}}$

$\boxed{f_Y(y)=f_X(x)\left|\frac{dx}{dy}\right|}$

$\boxed{\frac{\partial}{\partial c}\left(\int_a^bg(x)dx\right)=\frac{\partial b}{\partial c}\cdot g(b)-\frac{\partial a}{\partial c}\cdot g(a)+\int_a^b\frac{\partial g}{\partial c}(x)dx}$

## 概率分布

$\boxed{P(|X-\mu|\geqslant k\sigma)\leqslant\frac{1}{k^2}}$

 类型 分布 PDF $\psi(\omega)$ $E[X]$ $\mbox{Var}(X)$ (D) $X\sim\mathcal{B}(n, p)$ $\displaystyle P(X=x)=\displaystyle\binom{n}{x} p^xq^{n-x}$ $(pe^{i\omega}+q)^n$ $np$ $npq$ (D) $X\sim\mbox{Po}(\mu)$ $\displaystyle P(X=x)=\frac{\mu^x}{x!}e^{-\mu}$ $e^{\mu(e^{i\omega}-1)}$ $\mu$ $\mu$ (C) $X\sim\mathcal{U}(a, b)$ $\displaystyle f(x)=\frac{1}{b-a}$ $\displaystyle\frac{e^{i\omega b}-e^{i\omega a}}{(b-a)i\omega}$ $\displaystyle\frac{a+b}{2}$ $\displaystyle\frac{(b-a)^2}{12}$ (C) $X\sim\mathcal{N}(\mu, \sigma)$ $\displaystyle f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^2}$ $e^{i\omega\mu-\frac{1}{2}\omega^2\sigma^2}$ $\mu$ $\sigma^2$ (C) $X\sim\mbox{Exp}(\lambda)$ $\displaystyle f(x) = \lambda e^{-\lambda x}$ $\displaystyle\frac{1}{1-\frac{i\omega}{\lambda}}$ $\displaystyle\frac{1}{\lambda}$ $\displaystyle\frac{1}{\lambda^2}$

## 联合分布随机变量

 类型 边缘密度函数 累积函数 (D) $\displaystyle f_X(x_i)=\sum_{j}f_{XY}(x_i,y_j)$ $\displaystyle F_{XY}(x,y)=\sum_{x_i\leqslant x}\sum_{y_j\leqslant y}f_{XY}(x_i,y_j)$ (C) $\displaystyle f_X(x)=\int_{-\infty}^{+\infty}f_{XY}(x,y)dy$ $\displaystyle F_{XY}(x,y)=\int_{-\infty}^x\int_{-\infty}^yf_{XY}(x',y')dx'dy'$

$\boxed{f_{X|Y}(x)=\frac{f_{XY}(x,y)}{f_Y(y)}}$

$\boxed{f_{XY}(x,y)=f_X(x)f_Y(y)}$

$\boxed{\mbox{Cov}(X,Y)\triangleq\sigma_{XY}^2=E[(X-\mu_X)(Y-\mu_Y)]=E[XY]-\mu_X\mu_Y}$

$\boxed{\rho_{XY}=\frac{\sigma_{XY}^2}{\sigma_X\sigma_Y}}$

## 参数估计

### 定义

$\boxed{\mbox{Bias}(\hat{\theta})=E[\hat{\theta}]-\theta}$

### 估计均值

$\boxed{\overline{X}=\frac{1}{n}\sum_{i=1}^nX_i}$

$\boxed{\overline{X}\underset{n\rightarrow+\infty}{\sim}\mathcal{N}\left(\mu, \frac{\sigma}{\sqrt{n}}\right)}$

### 估计方差

$\boxed{s^2=\hat{\sigma}^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\overline{X})^2}$