概率论与数理统计公式大赏

本文主要是介绍概率论与数理统计公式大赏，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

概率论 
概念公式
样本点随机试验的每一种可能的结果，记作ω
样本空间全体样本点组成的集合，记作Ω，是必然事件
空集不包含任何样本点的空集，记作∅，是不可能事件
随机事件样本空间的子集，记作A,B,C⋯
基本事件由一个样本点组成的样本空间的子集
事件的包含一个事件的发生必然导致另一个事件发生，或者一个事件的样本点都属于另一个事件
相等事件两个事件具有完全相同的样本点
相交事件代表事件A和事件B同时发生的事件，记作AB或A∩B
互斥事件AB=∅的两个事件，也叫互不相容事件
互斥概率两两互斥的事件有P(A1∪A2∪⋯∪An)=P(A1)+P(A2)+⋯+P(An)
事件并集代表事件A和事件B至少有一个发生的事件，记作A+B或A∪B
对立事件记作A’，A+A’=Ω，AA’=∅
完备事件组一组两两互斥，但全部并起来可以组成样本空间的事件
事件的差包含于A而不包含于B的事件称为A与B的差，记作A-B或AB’
事件的交换律A+B=B+A，AB=BA
事件的结合律(A+B)+C=A+(B+C)，(AB)C=A(BC)
事件的分配律A(B+C)=AB+AC，A+BC=(A+B)(A+C)
事件的对偶律(A+B)‘=A’B’，(AB)‘=A’+B’，(A-B)‘=(AB’)‘=A’+B
条件概率事件A发生时事件B发生的概率P(B|A)= P ( A B ) ‾ P ( A ) \begin{matrix}\underline{P(AB)}\\P(A)\end{matrix} P(AB)​P(A)​
概率性质P∅=0，P(Ω)=1，P(A)∈[0,1]，P(A’)=1-P(A)，A⊆B⇒P(A)≤P(B)
古典概率P(A)= A 中样本点的数量 ‾ Ω 中样本点的总数 = n ( A ) ‾ n ( Ω ) \begin{matrix}\underline{A中样本点的数量}\\Ω中样本点的总数\end{matrix}=\begin{matrix}\underline{n(A)}\\n(Ω)\end{matrix} A中样本点的数量​Ω中样本点的总数​=n(A)​n(Ω)​
几何概率P(A)= A 的几何度量 ‾ Ω 的几何度量 = L ( A ) ‾ L ( Ω ) \begin{matrix}\underline{A的几何度量}\\Ω的几何度量\end{matrix}=\begin{matrix}\underline{L(A)}\\L(Ω)\end{matrix} A的几何度量​Ω的几何度量​=L(A)​L(Ω)​
概率加法P(A+B)=P(A)+P(B)-P(AB)
概率减法P(A-B)=P(A)-P(AB)
概率乘法P(AB)=P(A)P(B│A)=P(B)P(A│B)
全概率公式P(A)=∑P(Bi)P(A│Bi)，B为非零完备事件组
贝叶斯公式P(Bk│A)= P ( A B k ) ‾ P ( A ) = P ( B k ) P ( A │ B k ) ‾ ∑ P ( B i ) P ( A │ B i ) \begin{matrix}\underline{P(AB_k)}\\P(A)\end{matrix}=\begin{matrix}\underline{P(B_k)P(A│B_k)}\\∑P(B_i)P(A│B_i)\end{matrix} P(ABk​)​P(A)​=P(Bk​)P(A│Bk​)​∑P(Bi​)P(A│Bi​)​，B为非零完备事件组
独立与相关独立⇔P(AB)=P(A)P(B)或f{X,Y}(x,y)=fX(x)fY(y)⇒不相关⇔E(XY)=E(X)E(Y)
独立事件特性多个事件相互独立⇒P(ABC)=P(A)P(B)P(C)，它们中的部分事件相互独立
独立重复试验重复若干次的随机试验，每次实验之间相互独立，且同一事件在每次实验中发生的概率相同，比如掷骰子
伯努利试验每次实验只有A，A’两种结果的独立重复试验，比如抛硬币
n重伯努利试验重复n次的伯努利实验
排列与组合 A n m = n ! ( n − m ) ! ‾ ， C n m = n ! m ! ( n − m ) ! ‾ A_n^m=\begin{matrix}n!\\\overline{(n-m)!}\end{matrix}，C_n^m=\begin{matrix}n!\\\overline{m!(n-m)!}\end{matrix} Anm​=n!(n−m)!​​，Cnm​=n!m!(n−m)!​​
分布函数FX(x) = P(X ≤ x)= ∫ − ∞ x ∫_{-∞}^x ∫−∞x​fX(x)dx；FX(-∞)=0，FX(+∞)=1；在间断点处 FX(x)=FX(x+)
因变量分布函数Y=g(X)⇒ FY(y)=P(Y ≤ y)=P(g(X) ≤ y)
概率密度fX(x)=F’X(x)，P(a<x<b)= ∫ a b ∫_a^b ∫ab​fX(x)dx， ∫ − ∞ + ∞ ∫_{-∞}^{+∞} ∫−∞+∞​fX(x)dx=1
离散型变量分布P(X=xi)=pi或 X │ x 1 x 2 ⋯ x n P │ p 1 p 2 ⋯ p n \frac{\begin{matrix}X│x_1&x_2&⋯&x_n\end{matrix}}{\begin{matrix}P│p_1&p_2&⋯&p_n\end{matrix}} P│p1​​p2​​⋯​pn​​X│x1​​x2​​⋯​xn​​​，∑pi=1
0-1分布若P(X=0)=1-p，P(X=1)=p，0<p<1，则X服从参数为p的0-1分布，E(X)=p，D(X)=p(1-p)
二项概率若每次试验中P(A)=p∈(0,1)，则n重伯努利实验中A发生k次的概率=Cnkpk(1-p)n-k
二项分布B若P(X=k)=Cnkpk(1-p)n-k，k∈N，p∈(0,1)，则X~B(n,p),E(X)=np,D(X)=np(1-p)
二项分布可加性X~B(m,p)，Y~B(n,p)⇒X+Y~B(m+n,p)
几何分布若P(X=k)=p(1-p)k-1，k∈N+，p∈(0,1)，则X服从参数为p的几何分布，E(X)= 1 p \frac1p p1​，D(X)= 1 p 2 − 1 p \frac1{p^2}-\frac1p p21​−p1​
超几何分布若P(X=k)= C M k C N − M n − k C N n \frac{\begin{matrix}C_M^kC_{N-M}^{n-k}\end{matrix}}{\begin{matrix}C_N^n\end{matrix}} CNn​​CMk​CN−Mn−k​​​，k∈[max(0,n+M-N),min(n,M)]，则X~H(n,M,N)
超几何分布的意义N件产品中有M件次品，从中抽取n件，样本中含k个次品
泊松分布P若P(X=k)= λ k e − λ k ! \frac{λ^ke^{-λ}}{k!} k!λke−λ​，λ>0，k∈N，则X~P(λ)，E(X)=D(X)=λ
泊松分布可加性X~P(λ1)，Y~P(λ2)⇒X+Y~P(λ1+λ2)
均匀分布U若f(x)= { 1 b − a ‾ , a < x < b 0 , 其它 \left\{\begin{matrix}\begin{matrix}1\\\overline{b-a}\end{matrix},a<x<b\\0,其它\end{matrix}\right. ⎩   ⎨   ⎧​1b−a​​,a<x<b0,其它​，则X~U(a,b)，E(X)= a + b ‾ 2 \begin{matrix}\underline{a+b}\\2\end{matrix} a+b​2​，D(X)= ( a − b ) 2 ‾ 12 \begin{matrix}\underline{(a-b)^2}\\12\end{matrix} (a−b)2​12​
指数分布E若f(x)= { λ e − λ x , x > 0 0 , 其它 \left\{\begin{matrix}λe^{-λx},x>0\\0,其它\end{matrix}\right. {λe−λx,x>00,其它​，λ>0，则X~E(λ)，E(X)=λ-1，D(X)=λ-2
正态分布N若f(x)= 1 2 π σ ‾ e − ( x − μ ) 2 2 σ 2 \begin{matrix}1\\\overline{\sqrt{2π}σ}\end{matrix}e^{-\frac{(x-μ)^2}{2σ^2}} 12π   ​σ​​e−2σ2(x−μ)2​，σ>0，则X~N(μ,σ2)，E(X)=μ，D(X)=σ2
标准正态分布X~N(0,1)，Φ(x)= 1 2 π ‾ ∫ − ∞ x e − x 2 2 d x \begin{matrix}1\\\overline{\sqrt{2π}}\end{matrix}∫_{-∞}^xe^{-\frac{x^2}2}\mathrm dx 12π   ​​​∫−∞x​e−2x2​dx，Φ’(x)=φ(x)= 1 2 π ‾ e − x 2 2 \begin{matrix}1\\\overline{\sqrt{2π}}\end{matrix}e^{-\frac{x^2}2} 12π   ​​​e−2x2​
正态分布特性1X~N(μ,σ2) ⇒ aX+b~N(aμ+b,(aσ)2)， X − μ σ \frac{X-μ}{σ} σX−μ​~N(0,1)
正态分布特性2X~N(μ,σ^2) ⇒ F(X)=Φ( X − μ ‾ σ \begin{matrix}\underline{X-μ}\\σ\end{matrix} X−μ​σ​)，P(a<x<b)=Φ( b − μ ‾ σ \begin{matrix}\underline{b-μ}\\σ\end{matrix} b−μ​σ​)-Φ( a − μ ‾ σ ) \begin{matrix}\underline{a-μ}\\σ\end{matrix}) a−μ​σ​)
二维随机变量若X,Y是样本空间上的两个随机变量，则(X,Y)为二维随机变量
二维离散随机变量可能取有限个或可数无穷个值的二维随机变量
二维离散变量分布P(X=xi,Y=yj)=pij，∑pij=1
二维连续变量分布F(x,y)=P(X≤x,Y≤y)= ∫ − ∞ x ∫ − ∞ y ∫_{-∞}^x∫_{-∞}^y ∫−∞x​∫−∞y​f(x,y)dydx
二维分布的性质1F(x,-∞)=F(-∞,y)=0，F(+∞,+∞)=1，在单个维度上单调不减且“右连续”
二维分布的性质2P(a<X≤b,c<Y≤d)=[F(b,d)-F(b,c)]-[F(a,d)-F(a,c)]，P[(X,Y)∈D]=∬Df(x,y)dydx
边缘分布fX(x)= ∫ − ∞ + ∞ ∫_{-∞}^{+∞} ∫−∞+∞​f(x,y)dy，FX(x)= ∫ − ∞ x ∫ − ∞ + ∞ ∫_{-∞}^x∫_{-∞}^{+∞} ∫−∞x​∫−∞+∞​f(x,y)dydx， ∫ − ∞ + ∞ ∫ − ∞ + ∞ ∫_{-∞}^{+∞}∫_{-∞}^{+∞} ∫−∞+∞​∫−∞+∞​f(x,y)dydx=1
条件分布F{X|Y}(x|y)=P(X≤x|Y=y)
条件密度f{X|Y}(x|y)= f ( x , y ) ‾ f Y ( y ) \begin{matrix}\underline{f(x,y)}\\f_Y(y)\end{matrix} f(x,y)​fY​(y)​
二维正态分布(X,Y) ~ N(μ1,μ2,σ12,σ22,ρxy)，f= 1 2 π σ 1 σ 2 1 − ρ 2 ‾ exp ⁡ [ − ( x − μ 1 σ 1 ) 2 − 2 ρ ( x − μ 1 σ 1 ) ( y − μ 2 σ 2 ) + ( y − μ 2 σ 2 ) 2 ‾ 2 ( 1 − ρ 2 ) ] \begin{matrix}1\\\overline{2πσ_1σ_2\sqrt{1-ρ^2}}\end{matrix}\exp[-\begin{matrix}\underline{(\frac{x-μ_1}{σ_1})^2-2ρ(\frac{x-μ_1}{σ_1})(\frac{y-μ_2}{σ_2})+(\frac{y-μ_2}{σ_2})^2}\\2(1-ρ^2)\end{matrix}] 12πσ1​σ2​1−ρ2   ​​​exp[−(σ1​x−μ1​​)2−2ρ(σ1​x−μ1​​)(σ2​y−μ2​​)+(σ2​y−μ2​​)2​2(1−ρ2)​]
多维正态分布特性1(X1,X2,⋯,Xn)服从多维正态分布⇔Xi服从正态分布，X1,X2,⋯,Xn的线性组合服从正态分布
多维正态分布特性2(X1,X2,⋯,Xn)服从多维正态分布⇒X1,X2,⋯,Xn相互独立且两两不相关
二元函数的分布Z=f(X,Y)⇒FZ(z)=P(Z≤z)=P(f(X,Y)≤z)
数学期望/样本均值E(g(X))=∑pig(xi)= ∫ − ∞ + ∞ ∫_{-∞}^{+∞} ∫−∞+∞​g(x)fX(x)dx，E(C)=C，E(aX+bY)=aE(X)+bE(Y)， X ˉ = 1 n ​ ∑ X i \bar X=\frac 1n​∑X_i Xˉ=n1​​∑Xi​
二元数学期望E(Z)=E[g(X,Y)]=∑pijg(xi,yj)= ∫ − ∞ + ∞ ∫ − ∞ + ∞ ∫_{-∞}^{+∞}∫_{-∞}^{+∞} ∫−∞+∞​∫−∞+∞​f(x,y)g(x,y)dydx
方差/标准差D(X)=σ2(X)=E([X-E(X)]2)=E(X2)-E2(X)， S 2 = ∑ ( X i − X ˉ ) 2 ‾ n − 1 S^2=\begin{matrix}\underline{∑(X_i-\bar X)^2}\\n-1\end{matrix} S2=∑(Xi​−Xˉ)2​n−1​，σ或S为标准差
方差特性D(aX+b)=a2D(X)，D(X±Y)=D(X)+D(Y)±2Cov(X,Y)
样本的矩k阶原点矩 = 1 n ​ ∑ X i k =\frac 1n​∑X_i^k =n1​​∑Xik​，k阶中心矩 = 1 n ​ ∑ ( X i − X ˉ ) k =\frac 1n​∑(X_i-\bar X)^k =n1​​∑(Xi​−Xˉ)k
二级中心矩展开 1 n ​ ∑ ( X i − X ˉ ) 2 = X 2 ‾ − X ˉ 2 \frac 1n​∑(X_i-\bar X)^2=\overline{X^2}-\bar X^2 n1​​∑(Xi​−Xˉ)2=X2−Xˉ2
混合矩(k+l)阶混合矩=E(XkYl)，(k+l)阶混合中心矩=E([X-E(X)]k[Y-E(Y)]l)
协方差Cov(X,Y)=E([X-E(X)][Y-E(Y)])=E(XY)-E(X)E(Y)
协方差的性质Cov(X,Y)=Cov(Y,X)，Cov(aX,bY)=abCov(X,Y)，Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)
协方差矩阵在协方差矩阵C中，cij=Cov(Xi,Xj)
相关系数ρxy= C o v ( X , Y ) D ( X ) ⋅ D ( Y ) ‾ \begin{matrix}Cov(X,Y)\\\overline{\sqrt{D(X)·D(Y)}}\end{matrix} Cov(X,Y)D(X)⋅D(Y)   ​​​∈[-1,1]，为1(-1)时线性正（负）相关，为0时不相关
均值之均值E( X ˉ \bar X Xˉ)=E(X)=μ
均值之方差D( X ˉ \bar X Xˉ)= 1 n \frac 1n n1​D(X)= σ 2 ‾ n \begin{matrix}\underline{σ^2}\\n\end{matrix} σ2​n​
方差之均值E(S2)=D(X)=σ2
方差之方差1Xi~N(μ,σ2) ⇒ ∑ ( X i − μ ‾ σ ) 2 (\begin{matrix}\underline{X_i-μ}\\σ\end{matrix})^2 (Xi​−μ​σ​)2~χ²(n) ⇒ D[ ( X i − μ ‾ σ ) 2 (\begin{matrix}\underline{X_i-μ}\\σ\end{matrix})^2 (Xi​−μ​σ​)2]=2n ⇒ D[∑(Xi-μ)2]=2nσ4
方差之方差2Xi~N(μ,σ2) ⇒  n − 1 ‾ σ 2 \begin{matrix}\underline{n-1}\\σ^2\end{matrix} n−1​σ2​S2∼χ²(n-1) ⇒ D[ n − 1 ‾ σ 2 \begin{matrix}\underline{n-1}\\σ^2\end{matrix} n−1​σ2​S2]=2(n-1) ⇒ D(S2)= 2 σ 4 n − 1 ‾ \begin{matrix}2σ^4\\\overline{n-1}\end{matrix} 2σ4n−1​​
依概率收敛∃随机变量X1,X2,⋯,Xn，∀ε>0， lim ⁡ n → ∞ \lim\limits_{n→∞} n→∞lim​P(|Xn-C|<ε)=1⇒Xi依概率收敛于常数C，记作Xn → P \overset P→ →PC
依概率收敛的特性 X n → P a , Y n → P b ⇒ X n ± Y n → P a ± b , X n Y n → P a b , X n ‾ Y n → P a ‾ b , g ( X n ) → P g ( a ) X_n\overset P→a,Y_n\overset P→b⇒X_n±Y_n\overset P→a±b,X_nY_n\overset P→ab,\begin{matrix}\underline{X_n}\\Y_n\end{matrix}\overset P→\begin{matrix}\underline{a}\\b\end{matrix},g(X_n)\overset P→g(a) Xn​→Pa,Yn​→Pb⇒Xn​±Yn​→Pa±b,Xn​Yn​→Pab,Xn​​Yn​​→Pa​b​,g(Xn​)→Pg(a)
大数定律∃随机变量X1,X2,⋯,Xn， X ˉ = 1 n ∑ X i , X ˉ → P E ( X ˉ ) \bar X=\frac 1n∑X_i,\bar X\overset P→E(\bar X) Xˉ=n1​∑Xi​,Xˉ→PE(Xˉ)⇒随机变量序列{Xn}服从大数定律，棣-拉中的Xn可换成∑Xi
常用大数定律
 
数理统计 
概念公式
总体所研究对象的某项指标X的全体
简单随机样本来自总体的，相互独立且与总体同分布的随机变量
样本容量样本的随机变量的个数n
样本值总体X的n个独立观测值X1,X2,⋯,Xn
统计量样本X1,X2,⋯,Xn的不含未知参数的函数T=T(X1,X2,⋯,Xn)
点估计用样本X1,X2,⋯,Xn构造的统计量 θ ^ \hatθ θ^(X1,X2,⋯,Xn)估计未知参数 θ θ θ的过程
估计量/估计值X1,X2,⋯,Xn为点估计的统计量，x1,x2,⋯,xn为估计量所取得的观测值
矩估计用样本矩估计各阶总体矩：E(X)= 1 n ​ \frac1n​ n1​​∑Xi，E(X2)= 1 n ​ \frac1n​ n1​​∑Xi2，⋯，从而解出各参数，某一阶方程解不出就解高一阶方程
似然函数L(θ)=L(X1,X2,⋯,Xn)=∏f(xi)或∏p(Xi)，连续型为概率密度之积，离散型为各样本对应概率之积
最大似然估计令 ∂ ln ⁡ L ( θ ) ‾ ∂ θ i = 0 \begin{matrix}\underline{∂\ln L(θ)}\\∂θ_i\end{matrix}=0 ∂lnL(θ)​∂θi​​=0并解出使L(θ)最大的参数 θ ^ \hatθ θ^，解不出就让L尽可能大，比如 θ ^ \hatθ θ^=max(Xi)
无偏估计量θ的无偏估计量 θ ^ \hatθ θ^满足 E ( θ ^ ) = θ E(\hatθ)=θ E(θ^)=θ
渐进无偏估计量θ的渐进无偏估计量 θ ^ \hatθ θ^满足 lim ⁡ n → ∞ [ E ( θ ^ ) − θ ] = 0 \lim\limits_{n→∞}[E(\hatθ)-θ]=0 n→∞lim​[E(θ^)−θ]=0
更有效估计量设 θ ^ 1 \hatθ_1 θ^1​和 θ ^ 2 \hatθ_2 θ^2​都是θ的无偏估计量，若 D ( θ ^ 1 ) ≤ D ( θ ^ 2 ) D(\hatθ_1)≤D(\hatθ_2) D(θ^1​)≤D(θ^2​)，则 θ ^ 1 \hatθ_1 θ^1​比 θ ^ 2 \hatθ_2 θ^2​更有效
最有效估计量∀i， D ( θ ^ 0 ) ≤ D ( θ ^ i ) ⇒ θ ^ 0 D(\hatθ_0)≤D(\hatθ_i)⇒\hatθ_0 D(θ^0​)≤D(θ^i​)⇒θ^0​是θ的最有效估计量
一致估计量设 θ ^ = θ ^ \hatθ=\hatθ θ^=θ^(X1,X2,⋯,Xn)是θ的估计量，如果 θ ^ \hatθ θ^依概率收敛于θ，则 θ ^ \hatθ θ^是θ一致估计量
相合/一致估计量1设 θ ^ n = θ ^ \hatθ_n=\hatθ θ^n​=θ^(X1,X2,⋯,Xn)是θ的估计量，∀ε>0， lim ⁡ n → ∞ P ( │ θ ^ n − θ │ < ε ) = 1 ⇒ θ ^ n \lim\limits_{n→∞}P(│\hatθ_n-θ│<ε)=1⇒\hatθ_n n→∞lim​P(│θ^n​−θ│<ε)=1⇒θ^n​是θ的相合估计量
相合/一致估计量2设 θ ^ = θ ^ \hatθ=\hatθ θ^=θ^(X1,X2,⋯,Xn)是θ的估计量，∀ε>0， lim ⁡ n → ∞ P ( │ θ ^ − θ │ < ε ) = 1 ⇒ θ ^ n \lim\limits_{n→∞}P(│\hatθ-θ│<ε)=1⇒\hatθ_n n→∞lim​P(│θ^−θ│<ε)=1⇒θ^n​是θ的相合估计量
分位点满足 ∫ − ∞ f a ∫^{f_a}_{-∞} ∫−∞fa​​f(x)dx=a的fa
χ²分布X1,X2,⋯,Xn相互独立，Xi~N(0,1)⇒χ²=∑Xi2~χ²(n)
χ²分布的性质E(χ²)=n，D(χ²)=2n；χ²1和χ²2相互独立，χ²1~χ²(a)，χ²2~χ2(b)⇒χ²1+χ²2 ~ χ²(a+b)
t分布X~N(0,1)，Y~χ²(n)⇒T= X Y n ‾ \begin{matrix}X\\\overline{\sqrt{\frac Yn}}\end{matrix} XnY​   ​​​~t(n)
t分布的性质t分布的概率密度是偶函数， lim ⁡ n → ∞ \lim\limits_{n→∞} n→∞lim​T~N(0,1)
F分布X,Y相互独立，X~χ²(a)，Y~χ²(b)⇒F= X ‾ a Y ‾ b ‾ \begin{matrix}\begin{matrix}\underline X\\a\end{matrix}\\\overline{\begin{matrix}\underline Y\\b\end{matrix}}\end{matrix} X​a​Y​b​​​~F(a,b)
F分布的性质F~F(a,b)⇒ 1 F \frac1F F1​~F(b,a)
显著度/置信度显著性水平=a=接近0的数，置信度=1-a=接近1的数
联方差 S w 2 = ( n 1 − 1 ) S 1 2 + ( n 2 − 1 ) S 2 2 ‾ n 1 + n 2 − 2 S_w^2=\begin{matrix}\underline{(n_1-1)S_1^2+(n_2-1)S_2^2}\\n_1+n_2-2\end{matrix} Sw2​=(n1​−1)S12​+(n2​−1)S22​​n1​+n2​−2​
置信区间
假设检验按照一定的规则根据样本判断所作假设的真伪，并接受或拒绝该假设。如果对总体所作的假设为真，那么不利于该假设的小概率事件在一次试验中几乎不可能发生；如果小概率事件发生，就有理由怀疑该假设的真实性，从而拒绝原假设
假设检验过程根据样本观察结果检验原假设，接受原假设（H0）则否定备择假设（H1），否定H0就则接受H1
两端/一端检验H0:μ=μ0,H1:μ≠μ0；H0:μ≥μ0,H1:μ<μ0或H0:μ≤μ0,H1:μ>μ0
第一类错误拒绝实际真实的H0，也叫“弃真”，P(弃真)=P(拒绝域|H0)
第二类错误接受实际不真的H0，也叫“纳伪”，P(纳伪)=P(接受域|H1)
一正态总体验μH0:μ=μ0，接受域为 u = ∣ X ˉ − μ 0 ‾ σ n ∣ < u 1 − a / 2 u=\begin{vmatrix}\underline{\bar X-μ_0}\\\frac σ{\sqrt n}\end{vmatrix}<u_{1-a/2} u=   ​Xˉ−μ0​​n   ​σ​​   ​<u1−a/2​，P(弃真)=a；全8种接受域和置信区间同样
一正总单侧验μH0:μ≤μ0的接受域为u<ua，以此类推

概念	公式
样本点	随机试验的每一种可能的结果，记作ω
样本空间	全体样本点组成的集合，记作Ω，是必然事件
空集	不包含任何样本点的空集，记作∅，是不可能事件
随机事件	样本空间的子集，记作A,B,C⋯
基本事件	由一个样本点组成的样本空间的子集
事件的包含	一个事件的发生必然导致另一个事件发生，或者一个事件的样本点都属于另一个事件
相等事件	两个事件具有完全相同的样本点
相交事件	代表事件A和事件B同时发生的事件，记作AB或A∩B
互斥事件	AB=∅的两个事件，也叫互不相容事件
互斥概率	两两互斥的事件有P(A₁∪A₂∪⋯∪A_n)=P(A₁)+P(A₂)+⋯+P(A_n)
事件并集	代表事件A和事件B至少有一个发生的事件，记作A+B或A∪B
对立事件	记作A’，A+A’=Ω，AA’=∅
完备事件组	一组两两互斥，但全部并起来可以组成样本空间的事件
事件的差	包含于A而不包含于B的事件称为A与B的差，记作A-B或AB’
事件的交换律	A+B=B+A，AB=BA
事件的结合律	(A+B)+C=A+(B+C)，(AB)C=A(BC)
事件的分配律	A(B+C)=AB+AC，A+BC=(A+B)(A+C)
事件的对偶律	(A+B)‘=A’B’，(AB)‘=A’+B’，(A-B)‘=(AB’)‘=A’+B
条件概率	事件A发生时事件B发生的概率P(B\|A)= $\begin{matrix}\underline{P(AB)}\\P(A)\end{matrix}$
概率性质	P∅=0，P(Ω)=1，P(A)∈[0,1]，P(A’)=1-P(A)，A⊆B⇒P(A)≤P(B)
古典概率	P(A)= $\begin{matrix}\underline{A中样本点的数量}\\Ω中样本点的总数\end{matrix}=\begin{matrix}\underline{n(A)}\\n(Ω)\end{matrix}$
几何概率	P(A)= $\begin{matrix}\underline{A的几何度量}\\Ω的几何度量\end{matrix}=\begin{matrix}\underline{L(A)}\\L(Ω)\end{matrix}$
概率加法	P(A+B)=P(A)+P(B)-P(AB)
概率减法	P(A-B)=P(A)-P(AB)
概率乘法	P(AB)=P(A)P(B│A)=P(B)P(A│B)
全概率公式	P(A)=∑P(B_i)P(A│B_i)，B为非零完备事件组
贝叶斯公式	P(B_k│A)= $\begin{matrix}\underline{P(AB_k)}\\P(A)\end{matrix}=\begin{matrix}\underline{P(B_k)P(A│B_k)}\\∑P(B_i)P(A│B_i)\end{matrix}$ ，B为非零完备事件组
独立与相关	独立⇔P(AB)=P(A)P(B)或f_{X,Y}(x,y)=f_X(x)f_Y(y)⇒不相关⇔E(XY)=E(X)E(Y)
独立事件特性	多个事件相互独立⇒P(ABC)=P(A)P(B)P(C)，它们中的部分事件相互独立
独立重复试验	重复若干次的随机试验，每次实验之间相互独立，且同一事件在每次实验中发生的概率相同，比如掷骰子
伯努利试验	每次实验只有A，A’两种结果的独立重复试验，比如抛硬币
n重伯努利试验	重复n次的伯努利实验
排列与组合	$A_n^m=\begin{matrix}n!\\\overline{(n-m)!}\end{matrix}，C_n^m=\begin{matrix}n!\\\overline{m!(n-m)!}\end{matrix}$
分布函数	F_X(x) = P(X ≤ x)= $_{-∞}^x$ f_X(x)dx；F_X(-∞)=0，F_X(+∞)=1；在间断点处 F_X(x)=F_X(x⁺)
因变量分布函数	Y=g(X)⇒ F_Y(y)=P(Y ≤ y)=P(g(X) ≤ y)
概率密度	f_X(x)=F’_X(x)，P(a<x<b)= $_a^b$ f_X(x)dx， $∫_{-∞}^{+∞}$ f_X(x)dx=1
离散型变量分布	P(X=x_i)=p_i或 $\frac{\begin{matrix}X│x_1&x_2&⋯&x_n\end{matrix}}{\begin{matrix}P│p_1&p_2&⋯&p_n\end{matrix}}$ ，∑p_i=1
0-1分布	若P(X=0)=1-p，P(X=1)=p，0<p<1，则X服从参数为p的0-1分布，E(X)=p，D(X)=p(1-p)
二项概率	若每次试验中P(A)=p∈(0,1)，则n重伯努利实验中A发生k次的概率=C_n^kp^k(1-p)^n-k
二项分布B	若P(X=k)=C_n^kp^k(1-p)^n-k，k∈N，p∈(0,1)，则X~B(n,p),E(X)=np,D(X)=np(1-p)
二项分布可加性	X~B(m,p)，Y~B(n,p)⇒X+Y~B(m+n,p)
几何分布	若P(X=k)=p(1-p)^k-1，k∈N⁺，p∈(0,1)，则X服从参数为p的几何分布，E(X)= $\frac1p$ ，D(X)= $\frac1{p^2}-\frac1p$
超几何分布	若P(X=k)= $\frac{\begin{matrix}C_M^kC_{N-M}^{n-k}\end{matrix}}{\begin{matrix}C_N^n\end{matrix}}$ ，k∈[max(0,n+M-N),min(n,M)]，则X~H(n,M,N)
超几何分布的意义	N件产品中有M件次品，从中抽取n件，样本中含k个次品
泊松分布P	若P(X=k)= $\frac{λ^ke^{-λ}}{k!}$ ，λ>0，k∈N，则X~P(λ)，E(X)=D(X)=λ
泊松分布可加性	X~P(λ₁)，Y~P(λ₂)⇒X+Y~P(λ₁+λ₂)
均匀分布U	若f(x)= $\left\{\begin{matrix}\begin{matrix}1\\\overline{b-a}\end{matrix},a<x<b\\0,其它\end{matrix}\right.$ ，则X~U(a,b)，E(X)= $\begin{matrix}\underline{a+b}\\2\end{matrix}$ ，D(X)= $\begin{matrix}\underline{(a-b)^2}\\12\end{matrix}$
指数分布E	若f(x)= $\left\{\begin{matrix}λe^{-λx},x>0\\0,其它\end{matrix}\right.$ ，λ>0，则X~E(λ)，E(X)=λ^-1，D(X)=λ^-2
正态分布N	若f(x)= $\begin{matrix}1\\\overline{\sqrt{2π}σ}\end{matrix}e^{-\frac{(x-μ)^2}{2σ^2}}$ ，σ>0，则X~N(μ,σ²)，E(X)=μ，D(X)=σ²
标准正态分布	X~N(0,1)，Φ(x)= $\begin{matrix}1\\\overline{\sqrt{2π}}\end{matrix}∫_{-∞}^xe^{-\frac{x^2}2}\mathrm dx$ ，Φ’(x)=φ(x)= $\begin{matrix}1\\\overline{\sqrt{2π}}\end{matrix}e^{-\frac{x^2}2}$
正态分布特性1	X~N(μ,σ²) ⇒ aX+b~N(aμ+b,(aσ)²)， $\frac{X-μ}{σ}$ ~N(0,1)
正态分布特性2	X~N(μ,σ^2) ⇒ F(X)=Φ( $\begin{matrix}\underline{X-μ}\\σ\end{matrix}$ )，P(a<x<b)=Φ( $\begin{matrix}\underline{b-μ}\\σ\end{matrix}$ )-Φ( $\begin{matrix}\underline{a-μ}\\σ\end{matrix})$
二维随机变量	若X,Y是样本空间上的两个随机变量，则(X,Y)为二维随机变量
二维离散随机变量	可能取有限个或可数无穷个值的二维随机变量
二维离散变量分布	P(X=x_i,Y=y_j)=p_ij，∑p_ij=1
二维连续变量分布	F(x,y)=P(X≤x,Y≤y)= $_{-∞}^x∫_{-∞}^y$ f(x,y)dydx
二维分布的性质1	F(x,-∞)=F(-∞,y)=0，F(+∞,+∞)=1，在单个维度上单调不减且“右连续”
二维分布的性质2	P(a<X≤b,c<Y≤d)=[F(b,d)-F(b,c)]-[F(a,d)-F(a,c)]，P[(X,Y)∈D]=∬_Df(x,y)dydx
边缘分布	f_X(x)= $∫_{-∞}^{+∞}$ f(x,y)dy，F_X(x)= $_{-∞}^x∫_{-∞}^{+∞}$ f(x,y)dydx， $∫_{-∞}^{+∞}∫_{-∞}^{+∞}$ f(x,y)dydx=1
条件分布	F_{X\|Y}(x\|y)=P(X≤x\|Y=y)
条件密度	f_{X\|Y}(x\|y)= $\begin{matrix}\underline{f(x,y)}\\f_Y(y)\end{matrix}$
二维正态分布	(X,Y) ~ N(μ₁,μ₂,σ₁²,σ₂²,ρ_xy)，f= $\begin{matrix}1\\\overline{2πσ_1σ_2\sqrt{1-ρ^2}}\end{matrix}\exp[-\begin{matrix}\underline{(\frac{x-μ_1}{σ_1})^2-2ρ(\frac{x-μ_1}{σ_1})(\frac{y-μ_2}{σ_2})+(\frac{y-μ_2}{σ_2})^2}\\2(1-ρ^2)\end{matrix}]$
多维正态分布特性1	(X₁,X₂,⋯,X_n)服从多维正态分布⇔X_i服从正态分布，X₁,X₂,⋯,X_n的线性组合服从正态分布
多维正态分布特性2	(X₁,X₂,⋯,X_n)服从多维正态分布⇒X₁,X₂,⋯,X_n相互独立且两两不相关
二元函数的分布	Z=f(X,Y)⇒F_Z(z)=P(Z≤z)=P(f(X,Y)≤z)
数学期望/样本均值	E(g(X))=∑p_ig(x_i)= $∫_{-∞}^{+∞}$ g(x)f_X(x)dx，E(C)=C，E(aX+bY)=aE(X)+bE(Y)， $\bar X=\frac 1n∑X_i$
二元数学期望	E(Z)=E[g(X,Y)]=∑p_ijg(x_i,y_j)= $∫_{-∞}^{+∞}∫_{-∞}^{+∞}$ f(x,y)g(x,y)dydx
方差/标准差	D(X)=σ²(X)=E([X-E(X)]²)=E(X²)-E²(X)， $S^2=\begin{matrix}\underline{∑(X_i-\bar X)^2}\\n-1\end{matrix}$ ，σ或S为标准差
方差特性	D(aX+b)=a²D(X)，D(X±Y)=D(X)+D(Y)±2Cov(X,Y)
样本的矩	k阶原点矩 $=\frac 1n∑X_i^k$ ，k阶中心矩 $=\frac 1n∑(X_i-\bar X)^k$
二级中心矩展开	$\frac 1n∑(X_i-\bar X)^2=\overline{X^2}-\bar X^2$
混合矩	(k+l)阶混合矩=E(X^kY^l)，(k+l)阶混合中心矩=E([X-E(X)]^k[Y-E(Y)]^l)
协方差	Cov(X,Y)=E([X-E(X)][Y-E(Y)])=E(XY)-E(X)E(Y)
协方差的性质	Cov(X,Y)=Cov(Y,X)，Cov(aX,bY)=abCov(X,Y)，Cov(X₁+X₂,Y)=Cov(X₁,Y)+Cov(X₂,Y)
协方差矩阵	在协方差矩阵C中，c_ij=Cov(X_i,X_j)
相关系数	ρ_xy= $\begin{matrix}Cov(X,Y)\\\overline{\sqrt{D(X)·D(Y)}}\end{matrix}$ ∈[-1,1]，为1(-1)时线性正（负）相关，为0时不相关
均值之均值	E( $\bar X$ )=E(X)=μ
均值之方差	D( $\bar X$ )= $\frac 1n$ D(X)= $\begin{matrix}\underline{σ^2}\\n\end{matrix}$
方差之均值	E(S²)=D(X)=σ²
方差之方差1	X_i~N(μ,σ²) ⇒ ∑ $(\begin{matrix}\underline{X_i-μ}\\σ\end{matrix})^2$ ~χ²(n) ⇒ D[ $(\begin{matrix}\underline{X_i-μ}\\σ\end{matrix})^2$ ]=2n ⇒ D[∑(X_i-μ)²]=2nσ⁴
方差之方差2	X_i~N(μ,σ²) ⇒ $\begin{matrix}\underline{n-1}\\σ^2\end{matrix}$ S²∼χ²(n-1) ⇒ D[ $\begin{matrix}\underline{n-1}\\σ^2\end{matrix}$ S²]=2(n-1) ⇒ D(S²)= $\begin{matrix}2σ^4\\\overline{n-1}\end{matrix}$
依概率收敛	∃随机变量X₁,X₂,⋯,X_n，∀ε>0， $\lim\limits_{n→∞}$ P(\|X_n-C\|<ε)=1⇒X_i依概率收敛于常数C，记作X_n $\overset P→$ C
依概率收敛的特性	$X_n\overset P→a,Y_n\overset P→b⇒X_n±Y_n\overset P→a±b,X_nY_n\overset P→ab,\begin{matrix}\underline{X_n}\\Y_n\end{matrix}\overset P→\begin{matrix}\underline{a}\\b\end{matrix},g(X_n)\overset P→g(a)$
大数定律	∃随机变量X₁,X₂,⋯,X_n， $\bar X=\frac 1n∑X_i,\bar X\overset P→E(\bar X)$ ⇒随机变量序列{X_n}服从大数定律，棣-拉中的X_n可换成∑X_i
常用大数定律

概念	公式
总体	所研究对象的某项指标X的全体
简单随机样本	来自总体的，相互独立且与总体同分布的随机变量
样本容量	样本的随机变量的个数n
样本值	总体X的n个独立观测值X₁,X₂,⋯,X_n
统计量	样本X₁,X₂,⋯,X_n的不含未知参数的函数T=T(X₁,X₂,⋯,X_n)
点估计	用样本X₁,X₂,⋯,X_n构造的统计量 $\hatθ$ (X₁,X₂,⋯,X_n)估计未知参数 $θ$ 的过程
估计量/估计值	X₁,X₂,⋯,X_n为点估计的统计量，x₁,x₂,⋯,x_n为估计量所取得的观测值
矩估计	用样本矩估计各阶总体矩：E(X)= $\frac1n$ ∑X_i，E(X²)= $\frac1n$ ∑X_i²，⋯，从而解出各参数，某一阶方程解不出就解高一阶方程
似然函数	L(θ)=L(X₁,X₂,⋯,X_n)=∏f(x_i)或∏p(X_i)，连续型为概率密度之积，离散型为各样本对应概率之积
最大似然估计	令 $\begin{matrix}\underline{∂\ln L(θ)}\\∂θ_i\end{matrix}=0$ 并解出使L(θ)最大的参数 $\hatθ$ ，解不出就让L尽可能大，比如 $\hatθ$ =max(X_i)
无偏估计量	θ的无偏估计量 $\hatθ$ 满足 $E(\hatθ)=θ$
渐进无偏估计量	θ的渐进无偏估计量 $\hatθ$ 满足 $\lim\limits_{n→∞}[E(\hatθ)-θ]=0$
更有效估计量	设 $\hatθ_1$ 和 $\hatθ_2$ 都是θ的无偏估计量，若 $D(\hatθ_1)≤D(\hatθ_2)$ ，则 $\hatθ_1$ 比 $\hatθ_2$ 更有效
最有效估计量	∀i， $D(\hatθ_0)≤D(\hatθ_i)⇒\hatθ_0$ 是θ的最有效估计量
一致估计量	设 $\hatθ=\hatθ$ (X₁,X₂,⋯,X_n)是θ的估计量，如果 $\hatθ$ 依概率收敛于θ，则 $\hatθ$ 是θ一致估计量
相合/一致估计量1	设 $\hatθ_n=\hatθ$ (X₁,X₂,⋯,X_n)是θ的估计量，∀ε>0， $\lim\limits_{n→∞}P(│\hatθ_n-θ│<ε)=1⇒\hatθ_n$ 是θ的相合估计量
相合/一致估计量2	设 $\hatθ=\hatθ$ (X₁,X₂,⋯,X_n)是θ的估计量，∀ε>0， $\lim\limits_{n→∞}P(│\hatθ-θ│<ε)=1⇒\hatθ_n$ 是θ的相合估计量
分位点	满足 $^{f_a}_{-∞}$ f(x)dx=a的f_a
χ²分布	X₁,X₂,⋯,X_n相互独立，X_i~N(0,1)⇒χ²=∑X_i²~χ²(n)
χ²分布的性质	E(χ²)=n，D(χ²)=2n；χ²₁和χ²₂相互独立，χ²₁~χ²(a)，χ²₂~χ²(b)⇒χ²₁+χ²₂ ~ χ²(a+b)
t分布	X~N(0,1)，Y~χ²(n)⇒T= $\begin{matrix}X\\\overline{\sqrt{\frac Yn}}\end{matrix}$ ~t(n)
t分布的性质	t分布的概率密度是偶函数， $\lim\limits_{n→∞}$ T~N(0,1)
F分布	X,Y相互独立，X~χ²(a)，Y~χ²(b)⇒F= $\begin{matrix}\begin{matrix}\underline X\\a\end{matrix}\\\overline{\begin{matrix}\underline Y\\b\end{matrix}}\end{matrix}$ ~F(a,b)
F分布的性质	F~F(a,b)⇒ $\frac1F$ ~F(b,a)
显著度/置信度	显著性水平=a=接近0的数，置信度=1-a=接近1的数
联方差	$S_w^2=\begin{matrix}\underline{(n_1-1)S_1^2+(n_2-1)S_2^2}\\n_1+n_2-2\end{matrix}$
置信区间
假设检验	按照一定的规则根据样本判断所作假设的真伪，并接受或拒绝该假设。如果对总体所作的假设为真，那么不利于该假设的小概率事件在一次试验中几乎不可能发生；如果小概率事件发生，就有理由怀疑该假设的真实性，从而拒绝原假设
假设检验过程	根据样本观察结果检验原假设，接受原假设（H₀）则否定备择假设（H₁），否定H₀就则接受H₁
两端/一端检验	H₀:μ=μ₀,H₁:μ≠μ₀；H₀:μ≥μ₀,H₁:μ<μ₀或H₀:μ≤μ₀,H₁:μ>μ₀
第一类错误	拒绝实际真实的H₀，也叫“弃真”，P(弃真)=P(拒绝域\|H₀)
第二类错误	接受实际不真的H₀，也叫“纳伪”，P(纳伪)=P(接受域\|H₁)
一正态总体验μ	H₀:μ=μ₀，接受域为 $u=\begin{vmatrix}\underline{\bar X-μ_0}\\\frac σ{\sqrt n}\end{vmatrix}<u_{1-a/2}$ ，P(弃真)=a；全8种接受域和置信区间同样
一正总单侧验μ	H₀:μ≤μ₀的接受域为u<u_a，以此类推