考研数学 · 复习手账
概率论与数理统计
知识点 · 题型 · 解法
把《基础 30 讲》概率论与数理统计分册的六讲,按「定义与性质 → 重要结论 → 题型识别 → 标准解法」重排。 概率的题看起来花,其实全在考「认分布 + 套公式 + 算积分」这三步。
怎么用这一页
- 目录即知识地图。左栏按讲分好组,每个题型后面标了数量;先扫一遍标题,回忆不起的就点进去。
- 颜色是分工的。蓝色是定义与知识点,橙色是题型与解法,绿色是要背下来的结论,红色是踩过的坑。
- 考前只想背结论:点右上角「精简」,例题和铺垫说明会收起,只剩结论与步骤。
- 搜索。左栏搜索框可以搜知识点名或题型名,输入 / 直接聚焦;配合下方筛选只看「题型」或「易错」。
- 手机 / 平板。平板上点左上角图标可折叠左栏,多留出正文宽度;手机上左栏是抽屉,划走即关。
一条主线:先认分布,再算数字
概率论六讲不是六个独立章节,而是「描述随机现象 → 提炼特征 → 用大量样本来推断」的一条链。
六讲之间的关系
结论速查这门课从头到尾只做三件事:把随机现象描述成一个分布、从这个分布里算出几个关键数字、 用大量样本反推分布本身。六讲正好对应这三步。
| 阶段 | 讲次 | 核心问题 | 落地到 |
|---|---|---|---|
| 描述 | 第 1 讲 随机事件与概率 | 事件之间的关系、概率怎么定义与计算 | 加法/乘法/全概率/贝叶斯 |
| 第 2、3 讲 随机变量及其分布 | 怎么用一个或一组数来描述随机结果 | 分布函数、分布律、概率密度 | |
| 提炼 | 第 4 讲 数字特征 | 不用完整分布,只要几个关键数字 | 期望、方差、协方差、相关系数 |
| 推断 | 第 5 讲 大数定律与中心极限定理 | 样本很多时会呈现什么规律 | 频率趋近概率、正态近似 |
| 第 6 讲 数理统计 | 只有样本,怎么反推总体 | 抽样分布、矩估计、最大似然 |
- 概率题几乎都能拆成「认分布 → 求分布 → 算概率」:先看是离散还是连续,再求所需分布,最后套区间公式。
- 期望是「加权平均」,方差是「偏离程度」:所有数字特征都是这两个概念的变形与推广。
- 第 5、6 讲是概率论走向统计的桥:大数定律说明「样本均值会稳定」,中心极限定理说明「稳定到哪」,统计再用这套规律从样本推总体。
复习顺序建议
1 → 2 → 3 → 4 → 5 → 6。
第 2、3 讲是地基,分布没搞清,后面全是空中楼阁。
先抓 3、4、6(考得最多、题型最固定),再回头补 1 的计数功底与 2 的分布计算,最后过 5 的结论。
不是不会做,而是算错。概率题大量涉及积分与分段讨论,边界条件(开闭区间、绝对值的正负、积分上下限)错一处整题全错。 所以本总结在每个题型里都强调「先画图/先定范围,再动笔算」。
必背:常见分布一览
结论速查概率论一大半题目,最后都归结到下面这些分布。这张表要能默写。
离散型
| 分布 | 分布律 | 期望 | 方差 | 典型场景 |
|---|---|---|---|---|
| 0-1 分布 | $P\{X=1\}=p,\ P\{X=0\}=1-p$ | $p$ | $p(1-p)$ | 一次试验成功与否 |
| 二项分布 $B(n,p)$ | $P\{X=k\}=\mathrm{C}_n^kp^k(1-p)^{n-k}$ | $np$ | $np(1-p)$ | $n$ 次独立重复试验的成功次数 |
| 几何分布 $G(p)$ | $P\{X=k\}=(1-p)^{k-1}p$ | $\dfrac{1}{p}$ | $\dfrac{1-p}{p^2}$ | 首次成功所需的试验次数 |
| 泊松分布 $P(\lambda)$ | $P\{X=k\}=\dfrac{\lambda^k}{k!}\mathrm{e}^{-\lambda}$ | $\lambda$ | $\lambda$ | 单位时间内的稀有事件计数 |
连续型
| 分布 | 概率密度 | 期望 | 方差 | 典型场景 |
|---|---|---|---|---|
| 均匀分布 $U(a,b)$ | $f(x)=\dfrac{1}{b-a},\ a\lt x\lt b$ | $\dfrac{a+b}{2}$ | $\dfrac{(b-a)^2}{12}$ | 等可能的连续取值 |
| 指数分布 $E(\lambda)$ | $f(x)=\lambda \mathrm{e}^{-\lambda x},\ x\gt 0$ | $\dfrac{1}{\lambda}$ | $\dfrac{1}{\lambda^2}$ | 等待时间、寿命 |
| 正态分布 $N(\mu,\sigma^2)$ | $f(x)=\dfrac{1}{\sqrt{2\pi}\sigma}\mathrm{e}^{-\frac{(x-\mu)^2}{2\sigma^2}}$ | $\mu$ | $\sigma^2$ | 大量独立因素叠加 |
- 泊松分布可加:$X\sim P(\lambda_1)$ 与 $Y\sim P(\lambda_2)$ 独立,则 $X+Y\sim P(\lambda_1+\lambda_2)$。
- 正态分布可加:$X\sim N(\mu_1,\sigma_1^2)$ 与 $Y\sim N(\mu_2,\sigma_2^2)$ 独立,则 $X+Y\sim N(\mu_1+\mu_2,\ \sigma_1^2+\sigma_2^2)$;更一般地任意线性组合仍服从正态。
二项分布里 $np$ 是期望,不是概率;几何分布的期望是 $1/p$,别写成 $p$; 正态分布的第二个参数是方差 $\sigma^2$,不是标准差 $\sigma$。
- 标准化
- $Z=\dfrac{X-\mu}{\sigma}\sim N(0,1)$
- 查表公式
- $P\{X\lt a\}=\Phi\left(\dfrac{a-\mu}{\sigma}\right)$
- 对称性
- $\Phi(-x)=1-\Phi(x)$
- 常用值
- $\Phi(0)=0.5$,$\Phi(1)\approx0.8413$,$\Phi(1.96)\approx0.975$,$\Phi(2)\approx0.9772$
随机事件与概率
先把事件当成集合说清楚,再用三条公理把概率定下来,最后用一组公式把复杂事件拆开算。
随机试验、样本空间与随机事件
知识点把随机现象变成能算的东西只需要三步:用试验产出结果,把结果装进一个集合,再从集合里挑出我们关心的事件。
一个试验若同时满足下列三条,就称为随机试验(简称试验),习惯记作 $E$:
① 可以在相同条件下重复进行;
② 所有可能结果明确可知,且不止一个;
③ 每一次试验会出现哪一个结果,事先不能确定。
前两条保证「有东西可数」,第三条保证「有随机性」。缺任何一条都不是随机试验:结果唯一的是确定性试验,结果不可知的是根本无法建模的试验。
随机试验的每一个可能结果称为样本点,记作 $\omega$。样本点的全体组成的集合称为样本空间(或基本事件空间),记作 $\Omega$,即
$$\Omega=\{\omega\}$$由一个样本点构成的事件称为基本事件。基本事件不能再往下拆分,它是样本空间里的「原子」。
在一次试验中可能出现、也可能不出现的结果称为随机事件,简称事件,用大写字母 $A,B,C$ 表示。
每次试验中一定发生的事件称为必然事件,记为 $\Omega$;每次试验中一定不发生的事件称为不可能事件,记为 $\emptyset$。
注意三者的层级:随机事件 $A$ 总是由若干个基本事件组成,即 $A$ 是 $\Omega$ 的子集,写作 $A\subset\Omega$。于是「事件」与「集合」在表达上是同一件事——这正是下一节所有运算的合法性来源。
掷一枚骰子,六个面,可能出现 1 点到 6 点。记 $\omega_i=\{\text{掷出第}\,i\,\text{点}\}$,$i=1,2,\cdots,6$。则:
(1)每个 $\omega_i$ 都不可再分,都是基本事件;
(2)这些基本事件组成的集合就是样本空间 $\Omega=\{\omega_1,\omega_2,\cdots,\omega_6\}$;
(3)随机事件 $A=\{\text{掷出偶数点}\}$ 可写成 $A=\{\omega_2,\omega_4,\omega_6\}$,它是 $\Omega$ 的子集。
本讲后面所有的「事件的关系与运算」,本质上都是集合的关系与运算。只要把 $A\cup B$ 读成并集、$AB$ 读成交集、$\bar{A}$ 读成补集,文氏图就可以直接搬来用。做题时先在草稿纸上画一个矩形 $\Omega$,把事件画成圈,绝大多数关系题当场就现形。
① 样本空间的范围允许「人为扩大」。例如记录某城市一天的交通事故数,实际范围无法确定,但取 $\Omega=\{0,1,2,\cdots\}$ 甚至把上限拉到 $+\infty$ 都无妨——明知 $x\gt 10000$ 不会出现,扩大范围只是为了让数学处理方便,这不影响概率结论。
② 必然事件与不可能事件都不是随机事件,它们是随机事件的两个极端。不要把 $\Omega$ 当成「一个特殊的随机事件」来套公式。
事件的六种关系、四种运算与五大运算律
知识点六种关系用来「描述」事件之间的位置,四种运算用来「生成」新事件,五大运算律保证这套运算像普通代数一样可以放心变形。
六种关系
| 关系 | 记号 | 含义与判定 |
|---|---|---|
| 包含 | $A\subset B$ | $A$ 发生必导致 $B$ 发生。等价地,$A$ 的每个样本点都在 $B$ 里,画图时 $A$ 的圈整个落在 $B$ 的圈内。 |
| 相等 | $A=B$ | $A\subset B$ 且 $B\subset A$。两个表面说法不同的事件,只要样本点完全相同就是同一个事件。 |
| 相容 | $AB\ne\emptyset$ | 两个事件可能同时发生,即交集里还有样本点。 |
| 互斥(互不相容) | $AB=\emptyset$ | 两个事件不可能同时发生。若一组事件中任意两个都互斥,称它们两两互斥。 |
| 互逆(对立) | $\bar{A}$ | $A$ 与 $\bar{A}$ 满足 $A\bar{A}=\emptyset$ 且 $A\cup\bar{A}=\Omega$,即 $B=\bar{A}\iff AB=\emptyset$ 且 $A\cup B=\Omega$。 |
| 构成完备事件组 | $A_1,\cdots,A_n$ | $\bigcup_{i=1}^{n}A_i=\Omega$ 且 $A_iA_j=\emptyset\ (i\ne j)$。也叫对样本空间的一种划分,或称「全集分解」。 |
互斥与对立的区别必须一次记死:对立事件一定是互斥事件,但互斥事件不一定是对立事件。三块互不重叠的拼图 $A,B,C$,$A$ 与 $B$ 互斥却不对立,因为 $B\cup C$ 才构成 $A$ 的对立事件。
只要求 $AB=\emptyset$,两者可以都不发生,还有第三种可能。它简化的是并事件的概率:$P(A\cup B)=P(A)+P(B)$。
要求 $AB=\emptyset$ 且 $A\cup B=\Omega$,两者必有一个发生,没有第三种可能。它简化的是「至少有一个」的概率:$P(A)=1-P(\bar{A})$。
四种运算
积(交)$AB$:表示「$A$ 与 $B$ 同时发生」。有限个或可列个事件同时发生记作 $\bigcap_{i=1}^{n}A_i$。
和(并)$A\cup B$:表示「$A$ 与 $B$ 至少有一个发生」。有限个或可列个事件至少一个发生记作 $\bigcup_{i=1}^{n}A_i$。
差$A-B$:表示「$A$ 发生而 $B$ 不发生」。它有两个必须背下来的等价写法:
$$A-B=A-AB=A\bar{B}$$逆(对立)$\bar{A}$:表示「$A$ 不发生」。三条基本恒等式:
$$A\bar{A}=\emptyset,\qquad A\cup\bar{A}=\Omega,\qquad \bar{\bar{A}}=A$$差事件 $A-B$ 的三重身份是本节最值钱的一句话:$A-B$ 既可以读成「$A$ 去掉了 $AB$」,也可以读成「$A$ 与 $\bar{B}$ 同时发生」。凡是题目里出现「只发生一个」「发生而不发生另一个」,都往 $A\bar{B}$ 上写,比直接写 $A-B$ 更容易代数化。
五大运算律
事件的运算与集合运算完全一致,因此下列五条可以照搬,也可以对照集合去记。
| 运算律 | 内容 | 用法 |
|---|---|---|
| 吸收律 | 若 $A\subset B$,则 $A\cup B=B$,$AB=A$ | 把「小的那个」吸收掉,常与单调性配合用 |
| 交换律 | $A\cup B=B\cup A$,$AB=BA$ | 调整书写顺序,凑成能约分或能合并的形状 |
| 结合律 | $(A\cup B)\cup C=A\cup(B\cup C)$,$(AB)C=A(BC)$ | 多个事件并、交时可以任意分组 |
| 分配律 | $A(B\cup C)=AB\cup AC$,$A\cup(BC)=(A\cup B)(A\cup C)$ $A(B-C)=AB-AC$ | 把「交」分配进「并」,或反过来提取公因子 $A$ |
| 对偶律(德·摩根律) | $\overline{A\cup B}=\bar{A}\cap\bar{B}$,$\overline{A\cap B}=\bar{A}\cup\bar{B}$ | 把「并的补」换成「补的交」,反之亦然——概率题里最高频的一步变形 |
对偶律的口诀是「长杠变短杠,开口换方向」:把整条横线拆到每个字母头上,同时 $\cup$ 与 $\cap$ 互换。推广形式同样要会:
$$\overline{A_1\cup A_2\cup\cdots\cup A_n}=\bar{A}_1\bar{A}_2\cdots\bar{A}_n,\qquad \overline{A_1A_2\cdots A_n}=\bar{A}_1\cup\bar{A}_2\cup\cdots\cup\bar{A}_n$$「至少有一个发生」与「一个都不发生」互为对立,这条转换是把并事件变成交事件、从而用上独立性(见 1.6 节)的关键一步。
① 运算顺序约定为:先做逆运算,再做交运算,最后做并或差运算。即 $A\cup BC$ 读作 $A\cup(BC)$,而 $\overline{AB}$ 与 $\bar{A}B$ 是两个完全不同的事件。
② 对偶律拆的是整条横线,不是横线上的某一项。$\overline{A\cup B}$ 不等于 $\bar{A}\cup\bar{B}$(后者一般比它大得多)。
③ $AB=\emptyset$ 是集合层面的事实,$P(AB)=0$ 是概率层面的结论。由 $AB=\emptyset$ 可以推出 $P(AB)=0$,反过来不成立(见 1.3 节的连续型反例)。
概率的定义、性质与三个基本公式
知识点公理化定义不负责「算」,只负责「判定」;真正拿来算的是由三条公理推出的有界性、单调性、加法公式、减法公式与逆事件公式。
描述性定义:把随机事件 $A$ 发生的可能性大小的度量(一个非负值)称为 $A$ 的概率,记作 $P(A)$。
统计性定义:在相同条件下做 $n$ 次重复试验,$A$ 出现 $k$ 次,称比值 $\frac{k}{n}$ 为 $A$ 在这 $n$ 次试验中出现的频率。当 $n$ 充分大时频率稳定于某常数 $p$,这个 $p$ 就称为 $A$ 的概率。要清楚:频率只是概率的估计,不是概率本身。
公理化定义:设样本空间为 $\Omega$,若对每个事件 $A$ 都有确定的实数 $P(A)$,且 $P(\cdot)$ 满足:
① 非负性:$P(A)\ge 0$;
② 规范性:$P(\Omega)=1$;
③ 可列可加性:对任意可列个两两互斥的事件 $A_1,A_2,\cdots$,有
则称 $P(\cdot)$ 为概率,$P(A)$ 为事件 $A$ 的概率。
公理化定义的价值不在计算,而在判定:考研常给一个事件函数 $P(\cdot)$,问它是不是概率。判定的顺序永远是「先看非负性,再看 $P(\Omega)=1$,最后看可列可加性」,三条中倒一条就淘汰。
由公理推出的性质
有界性:对任一事件 $A$,有
$$0\le P(A)\le 1,\qquad P(\emptyset)=0,\quad P(\Omega)=1$$单调性:若 $A\subset B$,则
$$P(B-A)=P(B)-P(A),\qquad P(B)\ge P(A)$$这条性质的用法要记牢:它不是「估个大小」,而是给出一个可计算的等式,把 $P(B-A)$ 变成两个概率之差。
三个基本公式
逆事件概率公式:对任一事件 $A$,
$$P(\bar{A})=1-P(A)$$加法公式:对任意两个事件 $A,B$,
$$P(A\cup B)=P(A)+P(B)-P(AB)$$对任意三个事件 $A_1,A_2,A_3$:
$$P(A_1\cup A_2\cup A_3)=P(A_1)+P(A_2)+P(A_3)-P(A_1A_2)-P(A_1A_3)-P(A_2A_3)+P(A_1A_2A_3)$$若 $A_1,\cdots,A_n$ 两两互斥,则加法公式退化为直接相加:
$$P(A_1\cup A_2\cup\cdots\cup A_n)=P(A_1)+P(A_2)+\cdots+P(A_n)$$减法公式:
$$P(A-B)=P(A)-P(AB)=P(A\bar{B})$$把这几个公式串起来看,只剩一句话:凡是「并」就减掉重复算的那一块,凡是「差」就减掉交集。考试给的条件一般只有 $P(A)$、$P(B)$、$P(AB)$、$P(A\cup B)$ 四个量,题目要什么就用 $P(A\cup B)=P(A)+P(B)-P(AB)$ 与 $P(A-B)=P(A)-P(AB)$ 来回倒,四个量里知道三个就能求出第四个。
① $P(A-B)=P(A)-P(AB)$,不是 $P(A)-P(B)$。后者只在 $B\subset A$ 时才碰巧成立,一般情形下差距就是 $P(B)-P(AB)$ 这一块。
② $P(A)=0$ 不能断言 $A=\emptyset$;$P(A)=1$ 不能断言 $A=\Omega$。几何概型里「恰好在 8:30 进入教室」的概率是 $0$,但这件事完全可以发生。
③ $P(A\cup B)=1$ 不能推出 $A\cup B=\Omega$;$P(AB)=0$ 也不能推出 $AB=\emptyset$。概率为 $0$ 与不可能事件、概率为 $1$ 与必然事件,只在「离散型或古典概型」这种样本点可数的场合才等价。
事件的概率等式与不等式的比较
识别特征:题干只给抽象事件 $A,B$,问某个概率组合「一定成立」的是哪一个。四个选项往往都是由集合关系翻译过来的概率不等式。
- 把每个选项翻译成集合语言:$P(AB)$ 是交集,$P(A\cup B)$ 是并集,$P(\bar{A}\bar{B})$ 是「都不发生」,$P(A-B)$ 是「只 $A$ 不发生 $B$」。
- 找集合之间的包含关系,落到概率上就是单调性 $P(\text{小})\le P(\text{大})$。
- 用对偶律 $\overline{A\cup B}=\bar{A}\bar{B}$ 把「都不发生」与「至少一个发生」互换,配合 $P(\bar{X})=1-P(X)$。
- 剩下的式子用加法公式合并同类项,看能否化成恒成立的形式,或直接举一个反例排除。
设 $A,B$ 为两个随机事件,则下列一定成立的是( )。
(A)$P(AB)+P(\bar{A}\bar{B})\le 1$ (B)$P(AB)+P(\bar{A}\bar{B})\ge 1$ (C)$P(A-B)\le P(A)-P(B)$ (D)$P(A\cup B)+P(\bar{A}\cup\bar{B})\le 1$
由 $AB\subset A\cup B$ 得 $P(AB)\le P(A\cup B)$;再由对偶律 $\overline{A\cup B}=\bar{A}\bar{B}$ 与逆事件公式,得 $P(A\cup B)=1-P(\bar{A}\bar{B})$。两式合并即 $P(AB)+P(\bar{A}\bar{B})\le 1$,故(A)正确。(B)不一定成立;(C)因为 $AB\subset B$ 推出 $P(A-B)=P(A)-P(AB)\ge P(A)-P(B)$,方向相反;(D)中对偶律给出 $\bar{A}\cup\bar{B}=\overline{AB}$,故 $P(A\cup B)+P(\bar{A}\cup\bar{B})=1+P(A\cup B)-P(AB)$,且 $P(A\cup B)\ge P(AB)$,所以该式必定 $\ge 1$;等号只在 $P(A\cup B)=P(AB)$(如 $A=B$)时成立,一般不取等号,故不选。
条件概率与乘法公式
知识点条件概率是把「已知某事件发生」这个附加信息写进分母:样本空间从 $\Omega$ 缩成了 $A$,于是所有概率都要按新的总量重新归一。
设 $A,B$ 为两个事件,若 $P(A)\gt 0$,称在已知事件 $A$ 发生的条件下事件 $B$ 发生的概率为条件概率,记作 $P(B\mid A)$,定义为
$$P(B\mid A)=\frac{P(AB)}{P(A)}$$为什么是它:$A$ 已经发生,样本空间由 $\Omega$ 缩成 $A$;$B$ 要发生就必须落在 $AB$ 里。于是用「$AB$ 占 $A$ 的比例」来度量,$P(A)$ 做了归一化,保证 $P(\cdot\mid A)$ 仍是概率。
条件概率 $P(\cdot\mid A)$ 本身就是一个概率,三条公理与全部性质对它原样适用。所以:
$$P(\bar{B}\mid A)=1-P(B\mid A),\qquad P[(B-C)\mid A]=P(B\mid A)-P(BC\mid A),\qquad P(B\cup C\mid A)=P(B\mid A)+P(C\mid A)-P(BC\mid A)$$这条「照搬」是解题时最省力的一句话:不必重新推导,直接把条件竖线当成普通概率的死角即可。
如果 $P(A)\gt 0$,则
$$P(AB)=P(A)P(B\mid A)$$一般地,对于 $n\ge 2$,如果 $P(A_1A_2\cdots A_{n-1})\gt 0$,则
$$P(A_1A_2\cdots A_n)=P(A_1)P(A_2\mid A_1)P(A_3\mid A_1A_2)\cdots P(A_n\mid A_1A_2\cdots A_{n-1})$$三个事件的常用形式:$P(A_1A_2A_3)=P(A_1)P(A_2\mid A_1)P(A_3\mid A_1A_2)$。
乘法公式的作用是把交事件的概率拆成一串条件概率的乘积,正好与条件概率的定义互逆——一个用来「拆」,一个用来「算」。
条件概率与「同时发生」的区别
这是本节最容易失分的地方,用一个例子说清楚:一根长度为 $1$ 的质杆,任意切两刀截成三段;与「先切一刀分成两段,再对剩下的一段切一刀」——两句话听起来差不多,样本空间却完全不同。前者两刀地位对称,后者第二刀的位置依赖于第一刀的结果,是名副其实的条件概率。做题时先问一句「现在的样本空间还剩多少」,就知道该不该用条件概率。
① 分母写错:$P(B\mid A)=\frac{P(AB)}{P(A)}$ 分母是条件事件 $A$ 的概率,不是 $P(B)$。凡是把分母写成 $P(B)$ 的,一律错。
② 条件概率不可随意交换:$P(B\mid A)$ 与 $P(A\mid B)$ 一般不等,它们只通过 $P(A)P(B\mid A)=P(B)P(A\mid B)=P(AB)$ 联系起来。
③ 乘法公式的前提 $P(A)\gt 0$ 不能省。若 $P(A)=0$,条件概率没有定义,乘法公式也就失效。
已知条件概率反求无条件概率
识别特征:题干给出 $P(A)$、$P(B\mid A)$、$P(A\mid B)$ 这类「条件概率」,要求 $P(A\cup B)$、$P(AB)$ 或 $P(B)$。给出的量不在同一个式子里,要自己搭桥。
- 先用乘法公式把条件概率还原成交集概率:$P(AB)=P(A)P(B\mid A)$。
- 若已知 $P(A\mid B)$,再把 $P(B)$ 反解出来:$P(B)=\frac{P(AB)}{P(A\mid B)}$,注意分母仍是条件事件的概率。
- $P(A)$、$P(B)$、$P(AB)$ 三个量齐了,直接套加法公式求 $P(A\cup B)=P(A)+P(B)-P(AB)$。
- 若题目要的是减法或逆事件,继续用 $P(A-B)=P(A)-P(AB)$、$P(\bar{A})=1-P(A)$。
已知 $P(A)=\frac{1}{4}$,$P(B\mid A)=\frac{1}{3}$,$P(A\mid B)=\frac{1}{2}$,则 $P(A\cup B)=$ ____。
由乘法公式 $P(AB)=P(A)P(B\mid A)=\frac{1}{4}\times\frac{1}{3}=\frac{1}{12}$;再由 $P(A\mid B)=\frac{P(AB)}{P(B)}$ 得 $P(B)=\frac{1/12}{1/2}=\frac{1}{6}$。于是 $P(A\cup B)=P(A)+P(B)-P(AB)$;代入具体值 $\frac{1}{4}+\frac{1}{6}-\frac{1}{12}=\frac{1}{3}$。这类题的骨架就是「先还原交集,再凑出另一个事件的无条件概率,最后套加法公式」。
全概率公式与贝叶斯公式
知识点一个结果由多个原因引起时,「求结果的概率」用全概率公式,「已知结果反求某个原因的概率」用贝叶斯公式。二者是同一件事的正反两面,靠的都是全集分解。
如果 $A_1,A_2,\cdots,A_n$ 构成完备事件组,即
$$\bigcup_{i=1}^{n}A_i=\Omega,\qquad A_iA_j=\emptyset\ (i\ne j)$$且 $P(A_i)\gt 0$,则对任一事件 $B$,有
$$B=B\Omega=B\left(\bigcup_{i=1}^{n}A_i\right)=\bigcup_{i=1}^{n}A_iB,\qquad P(B)=\sum_{i=1}^{n}P(A_i)P(B\mid A_i)$$推导只有三步:$B$ 交上全集还是 $B$;把 $\Omega$ 换成分解式;因为 $A_i$ 两两互斥,$A_iB$ 也两两互斥,于是「并的概率」可以直接相加,每一项再用乘法公式展开。
在同样的条件下,只要 $P(B)\gt 0$,则对每个 $j=1,2,\cdots,n$ 有
$$P(A_j\mid B)=\frac{P(A_j)P(B\mid A_j)}{\sum_{i=1}^{n}P(A_i)P(B\mid A_i)}$$分子是「第 $j$ 条原因导致结果」的概率,分母正是全概率公式算出来的 $P(B)$。所以贝叶斯公式永远是「先全概率求分母,再取其中一项做分子」。
已知各「原因」的概率与各原因下「结果」的条件概率,求结果的总概率。判断标志:题目问的是「求 $P(B)$」「求某事件发生的概率」,而 $B$ 明显能被几种互斥情况瓜分。
已知结果 $B$ 已经发生,反求「它是第 $j$ 个原因造成的」概率。判断标志:题干出现「若已知……发生了,问是……的概率」。
一个村子有 3 个小偷:小张、小英、小郑,偷东西成功的概率分别为 $0$、$\frac{3}{4}$、$\frac{1}{6}$,派一个人去偷。记 $A_i=\{\text{第}\,i\,\text{个人去偷}\}$,$B=\{\text{村子失窃}\}$。(1)求 $P(B)$;(2)已知失窃,求 $P(A_i\mid B)$。
无附加信息时认为三人被派的概率相等,$P(A_i)=\frac{1}{3}$,$i=1,2,3$。第(1)问是「由因到果」,用全概率公式:$P(B)=\frac{1}{3}\times 0+\frac{1}{3}\times\frac{3}{4}+\frac{1}{3}\times\frac{1}{6}=\frac{11}{36}$。第(2)问是「执果索因」,用贝叶斯公式,把上面刚算出的 $\frac{11}{36}$ 直接当分母:$P(A_1\mid B)=\frac{0}{11/36}=0$,$P(A_2\mid B)=\frac{\frac{1}{3}\times\frac{3}{4}}{11/36}=\frac{9}{11}$,$P(A_3\mid B)=\frac{\frac{1}{3}\times\frac{1}{6}}{11/36}=\frac{2}{11}$。三个后验概率之和为 $0+\frac{9}{11}+\frac{2}{11}=1$,正好验证了「权重重新分配」。
全概率与贝叶斯的唯一区别是信息的方向。做题时的自检问题只有一个:题目让我求的是「结果的总概率」,还是「在结果已发生的条件下某个原因的概率」?前者套 $\sum P(A_i)P(B\mid A_i)$,后者在同一个式子上再除以分母。
还要会一个变形:若题目直接给出 $P(B)$,那么贝叶斯公式的分母就不用再算一遍,直接把 $P(B)$ 抄下来。这是很多题目故意留的捷径。
① 分解必须「不重不漏」:$A_i$ 之间要两两互斥(不重),并起来要是 $\Omega$(不漏)。少了某一种情况,分母立刻偏小,全题报废。
② 完备事件组不一定只有一组。有些题里有两层原因(比如「先选箱,再从箱里取」),这时要先把第一层的分解做完,再对第二层继续分解,两层都用全概率公式。
③ $\sum_{i}P(B\mid A_i)$ 没有要求,它一般小于 $1$,不要想当然当成 $1$ 去凑。
④ 条件概率的顺序不能反:$P(B\mid A_i)$ 是「第 $i$ 个原因导致结果」的概率,$P(A_i\mid B)$ 是「结果由第 $i$ 个原因造成」的概率,两者一般不同。
全概率公式:抓阄与不放回抽样
识别特征:题目分「第一次取、第二次取」两步,问第二次取到某种球的概率,却又不告诉你第一次取到了什么。看不到中间情况,就用全概率公式按第一次的结果分类。
- 把第一次的所有可能结果设为完备事件组 $A_1,A_2,\cdots$,这里通常就是「第一次取到次品」$A_1$ 与「第一次取到正品」$\bar{A}_1$。
- 算出 $P(A_1)$、$P(\bar{A}_1)$,这是第一次的概率,按题意给出的比例直接数。
- 算出条件概率 $P(A_2\mid A_1)$、$P(A_2\mid\bar{A}_1)$,这一步要注意总量少了一个,分子分母同步减。
- 套全概率公式求和。若结果是「第 $k$ 次取到的概率」,往往与 $k$ 无关——这就是抓阄模型。
一批产品 10 个正品、2 个次品,任意抽取两次,每次抽一个,抽出后不放回,则第二次抽出的是次品的概率为 ____。
记 $A_i=\{\text{第}\,i\,\text{次取得次品}\}$,$i=1,2$。则 $P(A_1)=\frac{2}{12}=\frac{1}{6}$,$P(\bar{A}_1)=\frac{10}{12}=\frac{5}{6}$,且 $P(A_2\mid A_1)=\frac{1}{11}$,$P(A_2\mid\bar{A}_1)=\frac{2}{11}$。由全概率公式,$P(A_2)=\frac{1}{6}\times\frac{1}{11}+\frac{5}{6}\times\frac{2}{11}=\frac{11}{66}=\frac{1}{6}$。结论与第一次相同:抓阄模型里,无论无放回取多少次,每一次取到次品的概率都是 $\frac{2}{12}$。
贝叶斯公式:已知检验结果,反求来源
识别特征:题干先给两个(或多个)总体各自的构成比例,再给一次抽取与检验的结果,并明确「已知抽到的是合格品(或已发生某结果)」,最后问「它来自哪个总体的概率」或据此再算一次抽取。
- 写出两套完备事件组:$H_i=\{\text{抽自第}\,i\,\text{批}\}$ 是「原因」,$A=\{\text{取到正品}\}$ 是「结果」。
- 用全概率公式先算出 $P(A)=\sum_i P(H_i)P(A\mid H_i)$,这个数就是贝叶斯公式的分母。
- 用贝叶斯公式算出后验概率 $P(H_i\mid A)=\frac{P(H_i)P(A\mid H_i)}{P(A)}$,它把「原因」的概率彻底改写。
- 若题目要求第二次抽取的概率,把第 3 步得到的后验概率当作新的先验,再做一次全概率分解——这类「贝叶斯 + 全概率」的复合正是本类题型的标准套路。
有两批数量相同的零件,一批全部合格,另一批有 $25\%$ 不合格。从两批中任取一批、从中任取 1 只,经检验是正品,放回原处,并从原所在批次再取 1 只,求这只产品是次品的概率。
记 $H_i=\{\text{第一次从第}\,i\,\text{批取}\}$,$P(H_1)=P(H_2)=\frac{1}{2}$;$A=\{\text{取到正品}\}$,$P(A\mid H_1)=1$,$P(A\mid H_2)=\frac{3}{4}$。于是 $P(A)=\frac{1}{2}\times 1+\frac{1}{2}\times\frac{3}{4}=\frac{7}{8}$。由贝叶斯公式,$P(H_1\mid A)=\frac{1/2}{7/8}=\frac{4}{7}$,$P(H_2\mid A)=\frac{3/8}{7/8}=\frac{3}{7}$。第二次从原批次取,故答案为 $\frac{4}{7}\times 0+\frac{3}{7}\times\frac{1}{4}=\frac{3}{28}$。注意两个后验概率之和为 $1$,这是检查有没有算漏的快捷办法。
事件的独立性与 $n$ 重伯努利概型
知识点独立性把「交事件的概率」从需要条件概率的状态,简化成两个概率直接相乘;$n$ 重伯努利概型则是把它重复 $n$ 次,得到第 2 讲的二项分布。
设 $A,B$ 为两个事件,如果
$$P(AB)=P(A)P(B)$$则称事件 $A$ 与 $B$ 相互独立,简称 $A$ 与 $B$ 独立。
若 $P(A)\gt 0$,则 $A$ 与 $B$ 独立等价于 $P(B\mid A)=P(B)$——「$A$ 是否发生不影响 $B$ 发生的概率」,这才是独立性最直观的含义。反过来,若 $P(AB)\gt P(A)P(B)$,说明 $A$ 有利于 $B$ 的发生;若 $P(AB)\lt P(A)P(B)$,说明 $A$ 抑制 $B$ 的发生。
独立性的三条判定与推广,必须成体系地记住:
① $A$ 与 $B$ 独立 $\iff$ $A$ 与 $\bar{B}$ 独立 $\iff$ $\bar{A}$ 与 $B$ 独立 $\iff$ $\bar{A}$ 与 $\bar{B}$ 独立。
② 将相互独立的事件组中任意几个事件换成各自的对立事件,所得的新事件组仍相互独立;对独立事件组不含相同事件作运算,得到的新事件组仍独立,例如 $A,B,C,D$ 相互独立,则 $AB$ 与 $CD$ 独立,$A$ 与 $BC-D$ 独立。
③ 若 $P(A)=0$ 或 $P(A)=1$,则 $A$ 与任意事件 $B$ 相互独立。
④ $n$ 个事件相互独立,要求其中任意 $k$ 个($2\le k\le n$)事件的交概率都等于各自概率之积。三个事件相互独立需要四个等式同时成立:$P(A_1A_2)=P(A_1)P(A_2)$,$P(A_1A_3)=P(A_1)P(A_3)$,$P(A_2A_3)=P(A_2)P(A_3)$,以及 $P(A_1A_2A_3)=P(A_1)P(A_2)P(A_3)$。只满足前三个叫两两独立。
① 独立与互斥一般不能同时成立。若 $A,B$ 互斥且都有正概率,则 $P(AB)=0$ 而 $P(A)P(B)\gt 0$,绝不独立。唯一的例外是其中一个概率为 $0$:此时 $P(AB)=0=P(A)P(B)$,既互斥又独立。一句话记:互斥是「集合不相交」,独立是「概率可相乘」,两个概念根本不在同一层。
② 两两独立不等于相互独立。掷一枚硬币两次,设 $A_1=\{\text{第一次正面}\}$,$A_2=\{\text{第二次正面}\}$,$A_3=\{\text{正反面各出现一次}\}$,则 $P(A_1A_2)=P(A_1A_3)=P(A_2A_3)=\frac{1}{4}$ 都等于各自概率之积,三者两两独立;但 $P(A_1A_2A_3)=P(\emptyset)=0\ne\frac{1}{8}$,所以三者并不相互独立。
③ 不要把「独立」用到同一事件上:$A$ 与 $A$ 独立只在 $P(A)=0$ 或 $P(A)=1$ 时成立。
在同样条件下独立重复地进行一系列完全相同的试验(每次试验的可能结果及其发生的概率都不变、各次试验相互独立),称这种重复试验序列的概率模型为独立试验序列概型。
如果每次试验只有两个结果 $A$ 与 $\bar{A}$,且 $P(A)=p$ 在每次试验中都不变,将这种试验独立重复 $n$ 次,则称为 $n$ 重伯努利概型。此时 $n$ 次试验中 $A$ 恰好发生 $k$ 次的概率为
$$P\{X=k\}=\mathrm{C}_n^k p^k(1-p)^{n-k},\qquad k=0,1,\cdots,n$$三个条件缺一不可:① 每次只有 $A$ 与 $\bar{A}$ 两个结果;② 每次 $P(A)=p$ 不变;③ 试验独立重复 $n$ 次。这三条正是第 2 讲二项分布的定义域。
用独立性求「至少一个发生」的概率
识别特征:题干出现「至少命中一次」「至少有一人译出」「密码被译出」这类措辞,且各次试验相互独立。正面分类有 $n$ 种情况,反面只有一种。
- 把「至少有一个发生」写成并事件 $A_1\cup A_2\cup\cdots\cup A_n$,并立刻取对立事件——「一个都不发生」。
- 用对偶律化成交事件:$\overline{A_1\cup\cdots\cup A_n}=\bar{A}_1\bar{A}_2\cdots\bar{A}_n$。这一步是能用上独立性的关键。
- 事件独立且取了对立事件后仍独立,于是交的概率等于各概率之积。
- 最后用 $P(\text{至少一个})=1-\prod_{i}P(\bar{A}_i)$,解出未知的 $p$。
对同一目标接连进行 3 次独立重复射击,假设至少命中目标一次的概率为 $\frac{7}{8}$,则每次射击命中目标的概率 $p=$ ____。
记 $A_i=\{\text{第}\,i\,\text{次命中}\}$,$i=1,2,3$,则 $P(A_1\cup A_2\cup A_3)=\frac{7}{8}$。由对偶律与独立性,$1-P(\bar{A}_1\bar{A}_2\bar{A}_3)=1-P(\bar{A}_1)P(\bar{A}_2)P(\bar{A}_3)$,即 $1-(1-p)^3=\frac{7}{8}$,故 $(1-p)^3=\frac{1}{8}$,$1-p=\frac{1}{2}$,$p=\frac{1}{2}$。
古典概型:计数、随机占位与简单随机抽样
知识点古典概型的全部难点不在概率,而在数基本事件:分子分母必须用同一套计数标准,一个按顺序数、一个按组合数,是这类题最常见的死法。
如果随机试验的样本空间满足:① 只有有限个样本点(基本事件);② 每个样本点发生的可能性都一样,则称该概率模型为古典概型。
若基本事件总数为 $n$,事件 $A$ 包含 $k$ 个基本事件(称有利于 $A$ 的基本事件有 $k$ 个),则
$P(A)=\frac{k}{n}=\frac{\text{事件}\,A\,\text{所含基本事件的个数}}{\text{基本事件总数}}$由上式算出的概率称为 $A$ 的古典概率。两个前提缺一不可:分母有限,且每个样本点等可能。
计数的四种工具
| 工具 | 公式 | 什么时候用 |
|---|---|---|
| 加法原理 | 完成一件事有 $n$ 类办法,各类分别有 $m_1,\cdots,m_n$ 种方法,则共 $\sum_{i=1}^{n}m_i$ 种 | 分类完成,各类互不重叠 |
| 乘法原理 | 完成一件事需 $n$ 个步骤,各步分别有 $m_1,\cdots,m_n$ 种方法,则共 $\prod_{i=1}^{n}m_i$ 种 | 分步完成,缺一步就不算完成 |
| 排列 $\mathrm{P}_n^m$ | $\mathrm{P}_n^m=n(n-1)\cdots(n-m+1)=\frac{n!}{(n-m)!}$ | 取出的元素讲顺序 |
| 组合 $\mathrm{C}_n^m$ | $\mathrm{C}_n^m=\frac{\mathrm{P}_n^m}{m!}=\frac{n!}{m!(n-m)!}$,且 $0!=1$,$\mathrm{C}_n^0=1$ | 取出的元素不讲顺序 |
加法与乘法的分界线只有一句话:这件事需不需要分步骤。分类用加法,分步用乘法。
还有第五种工具:逆数法。先求 $\bar{A}$ 中的基本事件数 $n_{\bar{A}}$,再用总数减去它得 $A$ 中的基本事件数。凡题干出现「至少」,优先考虑对立事件 $P(A)=1-P(\bar{A})$。
两类标准模型
| 模型 | 情形 | 基本事件总数 |
|---|---|---|
| 随机分配(随机占位,突出「放」) | $n$ 个可辨质点放入 $N$ 个盒子,每盒容纳任意多个 | $N^n$ |
| $n$ 个可辨质点放入 $N$ 个盒子,每盒至多容纳一个($n\le N$) | $\mathrm{P}_N^n=N(N-1)\cdots(N-n+1)$ | |
| 简单随机抽样(突出「取」) | 先后有放回取 $n$ 次(样本空间始终不变) | $N^n$ |
| 先后无放回取 $n$ 次(讲顺序) | $\mathrm{P}_N^n=N(N-1)\cdots(N-n+1)$ | |
| 任取 $n$ 个(不讲顺序) | $\mathrm{C}_N^n=\frac{\mathrm{P}_N^n}{n!}$ |
「先后无放回」与「任取」的概率完全相同,因为前者比后者多乘的 $n!$ 在分子分母里同时出现、正好约掉:
$$\frac{\mathrm{P}_N^n}{\mathrm{P}_N^n}\ \text{与}\ \frac{\mathrm{C}_N^n}{\mathrm{C}_N^n}\ \text{同值,故}\ \mathrm{P}_N^n=\mathrm{C}_N^n\cdot n!$$所以看到「任取 $k$ 个」与「逐个无放回取 $k$ 个」,只要问的是「不含顺序」的组合类事件,答案一样,此时应选更好算的那个。
随机占位(分球入盒)
识别特征:$n$ 个球放入 $N$ 个盒子、$n$ 个人分到 $N$ 个房间、$n$ 个人生日落在 $365$ 天、$n$ 个乘客在 $N$ 站下车——结构全是「每个对象独立地落进 $N$ 个位置之一」。
- 先定总数:每个球都有 $N$ 种落法且互不影响,故总数为 $N^n$(这是分母)。
- 再定分子,按盒子是否被「指定」分三种情形:指定 $n$ 个盒子各一球、恰有 $n$ 个盒子各一球、指定 $k$ 个盒子各一球。
- 「指定」意味着盒子位置唯一确定,只需把球排进去,乘 $n!$;「恰有」意味着盒子位置要从 $N$ 个里挑,要多乘一个 $\mathrm{C}_N^n$。
- 「指定 $k$ 个盒子各一球」剩下的 $n-k$ 个球可以随意落进其余 $N-k$ 个盒子,每球 $N-k$ 种落法,要乘 $(N-k)^{n-k}$。
将 $n$ 个球随机放入 $N$($n\le N$)个盒子中,每个盒子可以放任意多个球。求下列三个事件的概率:
$A$:某指定的 $n$ 个盒子各有一球;
$B$:恰有 $n$ 个盒子各有一球;
$C$:某指定的 $k$($k\le n$)个盒子各有一球。
基本事件总数为 $N^n$。$A$ 中:$n$ 个指定的盒子位置已定,只需把 $n$ 个不同的球排进去,共 $n!$ 种,故 $P(A)=\frac{n!}{N^n}$。$B$ 中:先从 $N$ 个盒子里选出 $n$ 个,再把这 $n$ 个球排进去,共 $\mathrm{C}_N^n\cdot n!$ 种,故 $P(B)=\frac{\mathrm{C}_N^n\,n!}{N^n}$。$C$ 中:先从 $n$ 个球里选出 $k$ 个($\mathrm{C}_n^k$ 种),排进指定的 $k$ 个盒子($k!$ 种),余下 $n-k$ 个球各自落进其余 $N-k$ 个盒子($(N-k)^{n-k}$ 种),故
$$P(C)=\frac{\mathrm{C}_n^k\,k!\,(N-k)^{n-k}}{N^n}=\frac{n!\,(N-k)^{n-k}}{(n-k)!\,N^n}$$生日问题、住房分配、乘客下车全是它的改写:$n=12$、$N=365$ 时,$P(B)$ 就是「12 人生日全不相同」的概率。
简单随机抽样:有放回、无放回与任取
识别特征:袋子(箱子里)有若干白球黑球、正品次品,问「取出的 $n$ 个中有 $k$ 个是某色」「至少一个是某色」「第 $k$ 次取到某色」。
- 先判断抽样方式:有放回(样本空间不变)、无放回(讲顺序)、任取(不讲顺序)。三种方式的总数分别是 $N^n$、$\mathrm{P}_N^n$、$\mathrm{C}_N^n$。
- 出现「至少」字样,直接转成对立事件「一个都没有」,再用逆数法。
- 分子分母必须同一种计数方式:分母用排列就不能分子用组合,除非两边同时补上 $n!$。
- 「第 $k$ 次取到某色」这类题,改用随机占位模型:把 $N$ 个球放进 $N$ 个格子,每个格子一个球,只看第 $k$ 个格子,概率立刻回到原始比例。
袋中有 5 个球,3 个白球、2 个黑球。分别按(1)先后有放回取 2 个;(2)先后无放回取 2 个;(3)任取 2 个,求取到的 2 个球中至少 1 个是白球的概率。
用对立事件「两球全黑」。分母:三种方式分别是 $5^2$、$5\times 4$、$\mathrm{C}_5^2$;「全黑」的数目分别是 $2^2$、$2\times 1$、$\mathrm{C}_2^2$。于是 $P_1=1-\frac{2^2}{5^2}=\frac{21}{25}$,$P_2=1-\frac{2\times 1}{5\times 4}=\frac{9}{10}$,$P_3=1-\frac{\mathrm{C}_2^2}{\mathrm{C}_5^2}=1-\frac{1}{10}=\frac{9}{10}$。(2)与(3)概率相同,说明「讲顺序」的那份信息在组合类事件里被约掉了。
① 分子分母不同标准:分母按「任意取 2 个」写成 $\mathrm{C}_{10}^2$,分子却按「先取一个再取一个」写成 $3\times 4$,结果必然错。改法是把分子也换成组合,或两边都补排列数。
② 「有放回」不等于真的放回:当产品数量足够多时,拿走一个不放回也可近似当作有放回处理,因为样本空间变化极小。这就是「有放回解」在大样本场合更常用的原因。
③ 抽样问题与分球入盒可以互相翻译:袋子里的球是「质点」,抽取的顺序位置是「盒子」。翻译之后往往比直接数更好想。
几何概型
知识点几何概型把「数个数」换成了「量测度」:基本事件无限多,但等可能性还在,于是概率变成了面积(长度、体积)之比。
如果随机试验的样本空间满足:
① 样本空间 $\Omega$ 是一个可度量的有界区域;
② 每个样本点发生的可能性都一样,即样本点落入 $\Omega$ 的某一可度量子区域 $S$ 的可能性大小与 $S$ 的几何度量成正比,而与 $S$ 的位置及形状无关,
则称该概率模型为几何概型。此时
$P\{S\}=\frac{S\,\text{的度量}}{\Omega\,\text{的度量}}$「可度量」就是平时理解的长度、面积、体积。数学三基本限定在一维长度与二维面积,数学一才可能出现三重积分算体积。
基本事件有限个,且等可能。靠数数,答案是两个整数相除。
基本事件无限个,但有几何度量且等可能。靠量面积,答案是一个比值。
几何概型与离散型最关键的一条差异由此产生:取到某一点的概率为 $0$。因为在面积(长度)的度量下,一个点的测度是 $0$。这就是「$P(A)=0$ 不能断言 $A=\emptyset$」的标准反例:在 8:00 到 9:00 之间随机到达,「恰好在 8:30 到达」的概率是 $\frac{0}{1}=0$,但这件事完全可能发生。
反过来,几何概型在均分的特殊情形下能退化成古典概型:若把 $\Omega$ 平均分成 4 块,4 个人各拿一块等面积的「饭盆」去接,则接到馅饼落入 4 个饭盆是等可能的、且基本事件只有 4 个,此时几何概型就化成了古典概型。
二维几何概型:画图求面积比
识别特征:题干出现「在区间 $(0,1)$ 中随机取两个数」「随机向某区域投一点」,条件是一个含 $x,y$ 的不等式。
- 把「随机取」翻译成均匀分布:$(x,y)$ 在某个区域 $D$ 上等可能,$D$ 就是样本空间,$P=\frac{S_D}{S_\Omega}$。
- 把题目条件写成关于 $x,y$ 的不等式,与 $\Omega$ 求交,得到事件区域 $A$。
- 画图:先在坐标系里画出 $\Omega$(常是正方形或半圆),再画出条件的边界线,标出围成的那一块。
- 用面积公式算比值。遇到「差的绝对值小于 $c$」这类条件,先画两条平行边界线 $y=x\pm c$,再查不规则部分往往正好是两个小三角形。
在区间 $(0,1)$ 中随机地取两个数,则这两个数之差的绝对值小于 $0.5$ 的概率为 ____。
设两数为 $x,y$,则 $(x,y)$ 落在正方形 $D=\{(x,y)\mid 0\lt x\lt 1,\ 0\lt y\lt 1\}$ 内,$S_D=1$。条件 $|x-y|\lt 0.5$ 即 $-0.5\lt x-y\lt 0.5$,在正方形内截出的区域是「去掉左下角与右上角两个等腰直角三角形」的部分,每个小三角形的直角边长 $0.5$,面积为 $\frac{1}{2}\times 0.5\times 0.5$。于是
$$P=\frac{1^2-2\times\frac{1}{2}\times 0.5^2}{1^2}=\frac{1-0.25}{1}=0.75$$用「总面积减两块小三角」比直接求不规则多边形的面积更快,这是本类题型的常规技巧。
① 几何概型的等可能性是「与位置、形状无关、只与度量成正比」,不是「每个点概率相同」——每个点的概率都是 $0$,因此不能像古典概型那样逐个数点。
② 边界上的点不影响结果(测度为 $0$),所以不等式写 $x\lt y$ 还是 $x\le y$ 对最终概率没有影响。不要在这种细节上纠缠,但要清楚原因。
③ 分母是 $\Omega$ 的度量,不是题目给的某个「最大区域」的度量。先把样本空间 $\Omega$ 定死,再往里挖事件区域。
本讲结论速查
结论速查- 基本关系
- $A\subset B$ 是包含;$AB=\emptyset$ 是互斥;$AB=\emptyset$ 且 $A\cup B=\Omega$ 才是互逆
- 差事件
- $A-B=A-AB=A\bar{B}$
- 对偶律
- $\overline{A\cup B}=\bar{A}\bar{B}$,$\overline{AB}=\bar{A}\cup\bar{B}$;口诀「长杠变短杠,开口换方向」
- 运算顺序
- 先逆,再交,最后并或差
- 完备事件组
- $\bigcup_i A_i=\Omega$ 且 $A_iA_j=\emptyset\ (i\ne j)$,即「不重不漏」的划分
- 公理三条
- 非负性 $P(A)\ge 0$;规范性 $P(\Omega)=1$;可列可加性(用于判定 $P(\cdot)$ 是不是概率)
- 有界性
- $0\le P(A)\le 1$,$P(\emptyset)=0$
- 单调性
- $A\subset B\Rightarrow P(B-A)=P(B)-P(A)$ 且 $P(B)\ge P(A)$
- 加法公式
- $P(A\cup B)=P(A)+P(B)-P(AB)$;两两互斥时退化为直接相加
- 减法公式
- $P(A-B)=P(A)-P(AB)$,不是 $P(A)-P(B)$
- 逆事件
- $P(\bar{A})=1-P(A)$,「至少」问题一律先转对立
- 条件概率
- $P(B\mid A)=\frac{P(AB)}{P(A)}$,$P(A)\gt 0$;它本身是概率,一切性质照搬
- 乘法公式
- $P(AB)=P(A)P(B\mid A)$;$n$ 个事件的链式相乘
- 全概率
- $P(B)=\sum_i P(A_i)P(B\mid A_i)$,由因到果;要求 $A_i$ 构成完备事件组
- 贝叶斯
- $P(A_j\mid B)=\frac{P(A_j)P(B\mid A_j)}{P(B)}$,执果索因,分母就是全概率算出的 $P(B)$
- 独立性
- $P(AB)=P(A)P(B)$;$P(A)\gt 0$ 时等价于 $P(B\mid A)=P(B)$
- 独立推论
- $A,B$ 独立 $\Rightarrow$ $A$ 与 $\bar{B}$、$\bar{A}$ 与 $B$、$\bar{A}$ 与 $\bar{B}$ 都独立;$P(A)=0$ 或 $1$ 时与任意事件独立
- 独立 vs 互斥
- 互斥且都为正概率时一定不独立;只有一方概率为 $0$ 时才可能既互斥又独立
- $n$ 重伯努利
- $P\{X=k\}=\mathrm{C}_n^k p^k(1-p)^{n-k}$,三个条件:两个结果、$p$ 不变、独立重复
- 古典概型
- $P(A)=\frac{k}{n}$,有限且等可能;分母分子必须同一套计数标准
- 两大计数模型
- 随机占位 $N^n$ / $\mathrm{P}_N^n$;抽样 $N^n$ / $\mathrm{P}_N^n$ / $\mathrm{C}_N^n$
- 无放回 = 任取
- $\mathrm{P}_N^n=\mathrm{C}_N^n\cdot n!$,组合类事件两者概率相同
- 几何概型
- $P=\frac{\text{事件区域度量}}{\Omega\,\text{的度量}}$;取一点概率为 $0$,故 $P(A)=0$ 不代表 $A=\emptyset$
一维随机变量及其分布
把样本点映射成实数,用分布函数 $F(x)=P\{X\le x\}$ 统一描述,再按离散、连续两条路线各自展开。
随机变量与分布函数的三条充要性质
知识点随机变量把「事件」翻译成「$X$ 落在某个区间里」,分布函数则把「所有这类事件的概率」一次性打包成一个函数。
设随机试验 $E$ 的样本空间为 $\Omega=\{\omega\}$。如果对每一个 $\omega\in\Omega$ 都有唯一的实数 $X(\omega)$ 与之对应,并且对任意实数 $x$,$\{\omega\mid X(\omega)\le x,\ \omega\in\Omega\}$ 都是随机事件,则称定义在 $\Omega$ 上的实值单值函数 $X(\omega)$ 为随机变量,简记为 $X$。
注意两点:① 随机事件是静态地看随机现象,随机变量是动态地看,相当于高数里常量与变量的区别;② 它的实质是「实值单值函数」,但这个函数的「定义域」是样本空间 $\Omega$,不一定是实数集,这一点与高数中的函数不同。
常用大写字母 $X,Y,Z$ 或希腊字母 $\xi,\eta,\zeta$ 表示随机变量。
设 $X$ 是随机变量,$x$ 是任意实数,称函数
$$F(x)=P\{X\le x\},\qquad x\in(-\infty,+\infty)$$为 $X$ 的分布函数,或称 $X$ 服从 $F(x)$ 分布,记为 $X\sim F(x)$。
为什么它能「完整描述」:当 $x$ 从 $-\infty$ 取到 $+\infty$ 时,事件 $\{X\le x\}$ 从不可能事件 $\emptyset$ 连续地变到必然事件 $\Omega$,中间每一段都对应一个概率。所以 $F(x)$ 把这台「随机机器」的全部概率规律都记下来了。
$F(x)$ 是某随机变量 $X$ 的分布函数 $\iff$ 同时满足以下三条:
① 单调不减:对任意 $x_1\lt x_2$,有 $F(x_1)\le F(x_2)$;
② 右连续:对任意 $x_0\in\mathbb{R}$,有 $\lim\limits_{x\to x_0^{+}}F(x)=F(x_0+0)=F(x_0)$;
③ 极限性质:
$$F(-\infty)=\lim_{x\to-\infty}F(x)=0,\qquad F(+\infty)=\lim_{x\to+\infty}F(x)=1$$又因为 $F(x)$ 本身是事件的概率,故自动满足 $0\le F(x)\le 1$,即 $F$ 是有界函数。反过来说,满足这三条的函数一定是某个随机变量的分布函数,所以这三条也是判定「$F(x)$ 是不是分布函数」的充要条件。
「充要」二字很重要:考研常见问法是把 $F_1(x)$、$F_2(x)$ 做个四则组合,问哪个还是分布函数。判定时逐条对照三性质即可,不需要验证它是否真的来自某个随机变量。
保证概率不出现负数:$x$ 变大时事件 $\{X\le x\}$ 只增不减,概率自然不能下降。
这是 $F(x)=P\{X\le x\}$ 中「$\le$」带出来的。若定义成 $P\{X\lt x\}$,就变成左连续了。
① 右连续 ≠ 连续。离散型随机变量的分布函数是台阶状,每个跳跃点都只有右连续,是「右连续但有跳跃」。
② 三段式写法的分段区间,除第一个区间外都应是左闭右开(等号跟着大于号),例如 $0\le x\lt 1$、$1\le x\lt 2$,这样才能保证右连续。若都写成闭区间,端点处会重复赋值,函数变成一对多,不再是函数。
③ $F(x)$ 中若含待定参数,一般用 $F(+\infty)=1$ 与某点的右连续性各建一个方程,两个参数就解出来了。
分布函数的应用:七条区间概率公式
知识点这一节是全讲最该背熟的一张表:把「$X$ 落在某个区间」翻译成 $F$ 在端点处的取值,区别只在端点开闭与是否要减去跃度。
设 $F(x)=P\{X\le x\}$,$x\in(-\infty,+\infty)$,则
$$P\{X\le a\}=F(a)$$ $$P\{X\lt a\}=F(a-0)$$ $$P\{X=a\}=F(a)-F(a-0)$$ $$P\{a\lt X\lt b\}=F(b-0)-F(a)$$ $$P\{a\le X\lt b\}=F(b-0)-F(a-0)$$ $$P\{a\lt X\le b\}=F(b)-F(a)$$ $$P\{a\le X\le b\}=F(b)-F(a-0)$$| 区间写法 | 左端用 | 右端用 | 记忆方式 |
|---|---|---|---|
| $X\le a$ | $F(a)$ | 定义的直接后果 | |
| $X\lt a$ | $F(a-0)$ | 不含端点 $a$,就要减掉 $a$ 处的跃度 | |
| $a\lt X\lt b$ | $F(a)$ | $F(b-0)$ | 两端都不含,右端减跃度 |
| $a\lt X\le b$ | $F(a)$ | $F(b)$ | 典型的「大减小」,最常用 |
| $a\le X\le b$ | $F(a-0)$ | $F(b)$ | 左端含,左端减跃度 |
一句话记住整张表:公式里的左端点取 $F$ 的哪一侧,就看区间是否含左端点;含就用 $F(a-0)$,不含就用 $F(a)$。右端点一律相反。
对离散型随机变量还有一个等价的分解式:
$$F(a)=P\{X\le a\}=P\{X\lt a\}+P\{X=a\}=F(a-0)+\bigl[F(a)-F(a-0)\bigr]$$这说明「$P\{X=a\}=F(a)-F(a-0)$」正是 $F$ 在 $a$ 处的跃度,右连续保证跃度非负。对连续型随机变量,跃度恒为 $0$,于是七条公式全部塌成同一个 $F(b)-F(a)$。
① 连续型不必纠结端点:$P\{a\lt X\lt b\}$、$P\{a\le X\lt b\}$、$P\{a\lt X\le b\}$、$P\{a\le X\le b\}$ 四个值完全相等,都等于 $F(b)-F(a)$。但在离散型里它们可能四个都不同,务必按表逐个核对。
② $F(b-0)$ 与 $F(b)$ 的区别只体现在有跳跃的场合。判断某题该用哪一个,先看随机变量是离散还是连续。
③ 求 $P\{X=a\}$ 时不要直接写 $0$!只有连续型才是 $0$;离散型要算跃度 $F(a)-F(a-0)$。
由分布函数反求参数与区间概率
题型这一类型题把「三条充要性质」当方程组用:$F(+\infty)=1$ 给一个方程,右连续给一个方程,两个参数就定死了;参数定死后再套七条公式算区间概率。
含参分布函数:定参数 + 算区间概率
识别特征:题干给出分段形式的 $F(x)$,其中含有待定常数(常见一两个),最后问某个形如 $P\{|X|\lt 2\}$ 或 $P\{a\lt X\le b\}$ 的概率。
- 用 $F(+\infty)=1$ 建第一个方程。若 $F$ 在某段趋于 $-\infty$ 时也含参数,再用 $F(-\infty)=0$ 建方程。
- 用右连续建第二个方程:在分段点 $x_0$ 处令 $\lim\limits_{x\to x_0^{+}}F(x)=F(x_0)$。若分段点处还要求左极限相等(连续型),则该点连续,也在这一步处理。
- 解出参数后代回,把 $F(x)$ 写成完整的分段式,注意每段区间左闭右开。
- 最后用七条公式算所求概率。绝对值要拆成双边不等式,例如 $\{|X|\lt 2\}=\{-2\lt X\lt 2\}$,再查表选公式。
设随机变量 $X$ 的分布函数为
$$F(x)=\begin{cases}a+be^{-x},&x\gt 0\\ 0,&x\le 0\end{cases}$$求常数 $a,b$ 及概率 $P\{|X|\lt 2\}$。
由 $F(+\infty)=\lim\limits_{x\to+\infty}(a+be^{-x})=a=1$ 得 $a=1$。$F(x)$ 在 $x=0$ 处右连续,故 $\lim\limits_{x\to 0^{+}}(a+be^{-x})=a+b=F(0)=0$,得 $b=-1$。于是 $F(x)=1-e^{-x}$($x\gt 0$),$F(x)=0$($x\le 0$)。所求 $P\{|X|\lt 2\}=P\{-2\lt X\lt 2\}$,即 $F(2-0)-F(-2)$。$F$ 在 $x=2$ 处连续,故 $F(2-0)=F(2)=1-e^{-2}$;$F(-2)=0$。所以 $P\{|X|\lt 2\}=1-e^{-2}$。
① 只用一个方程就下手:$a=1$ 只是算出了 $a$,$b$ 必须靠右连续才能定,漏掉这一步会得到 $b$ 任意,整题失效。
② 区间写错:$P\{|X|\lt 2\}$ 是 $F(2-0)-F(-2)$,不是 $F(2)-F(-2)$ 也不是 $F(2)-F(-2-0)$。这一题里 $F$ 在 $x=2$ 处连续,两种写法碰巧同值,但换成离散型就会差一个跃度。
③ 忘记 $F$ 在 $(-\infty,0]$ 段恒为 $0$,于是把 $F(-2)$ 当成 $1-e^{2}$ 去算,直接把后面全带偏。
离散型与连续型:分布律与概率密度
知识点两类随机变量的区别只有一句话:离散型把概率「堆」在若干个点上,连续型把概率「摊」在一段区间上。分布律是点的清单,概率密度是摊开的厚度。
离散型随机变量及其分布律
如果随机变量 $X$ 只可能取有限个或可列无限个值 $x_1,x_2,\cdots$,则称 $X$ 为离散型随机变量,称
$$P\{X=x_i\}=p_i,\qquad i=1,2,\cdots$$为 $X$ 的分布列、分布律或概率分布,记为 $X\sim p_i$。常用表格形式或矩阵形式表示,例如掷骰子:
$$X\sim\begin{pmatrix}1&2&3&4&5&6\\ \tfrac{1}{6}&\tfrac{1}{6}&\tfrac{1}{6}&\tfrac{1}{6}&\tfrac{1}{6}&\tfrac{1}{6}\end{pmatrix}$$数列 $\{p_i\}$($i=1,2,\cdots$)是某离散型随机变量的概率分布 $\iff$ ① $p_i\ge 0$;② $\sum\limits_{i}p_i=1$(归一性)。
由分布律写分布函数,就是把「不超过 $x$ 的所有点」的概率加起来:
$$F(x)=P\{X\le x\}=\sum_{x_i\le x}P\{X=x_i\}$$反过来,某点的概率就是这个跳跃点的跃度:
$$P\{X=x_i\}=P\{X\le x_i\}-P\{X\lt x_i\}=F(x_i)-F(x_i-0)$$并且对实数轴上任一集合 $B$,有 $P\{X\in B\}=\sum\limits_{x_i\in B}P\{X=x_i\}$。特别地
$$P\{a\lt X\le b\}=P\{X\le b\}-P\{X\le a\}=F(b)-F(a)$$连续型随机变量及其概率密度
如果随机变量 $X$ 的分布函数可以表示为
$$F(x)=\int_{-\infty}^{x}f(t)\,\dd t,\qquad x\in\mathbb{R}$$其中 $f(x)$ 是非负可积函数,则称 $X$ 为连续型随机变量,称 $f(x)$ 为 $X$ 的概率密度函数,简称概率密度,记为 $X\sim f(x)$。
① $f(x)\ge 0$;② $\int_{-\infty}^{+\infty}f(x)\,\dd x=1$(归一性)。
在保证非负的条件下,改变 $f(x)$ 在有限个点的值,$f(x)$ 仍然是概率密度——一个点的值改变不会改变曲线下的面积。
由此得到连续型的三条核心结论:
① 一点概率为零:对任意实数 $c$,$P\{X=c\}=0$;
② 区间概率即面积:对实数轴上任一集合 $B$,$P\{X\in B\}=\int_{B}f(x)\,\dd x$;
③ 四种区间写法同值:
$$P\{a\lt X\lt b\}=P\{a\le X\lt b\}=P\{a\lt X\le b\}=P\{a\le X\le b\}=\int_{a}^{b}f(x)\,\dd x=F(b)-F(a)$$概率堆在点上,$P\{X=x_i\}=p_i\gt 0$ 可能。$F(x)$ 是台阶状、有跳跃、右连续,跃度就是该点概率。
概率摊在区间上,$P\{X=c\}=0$。$F(x)$ 连续(通常还分段光滑),在 $f$ 的连续点处 $F'(x)=f(x)$。
① 密度 $f(x)$ 可以大于 $1$,但分布函数 $F(x)$ 必须在 $[0,1]$ 内。$f$ 是「单位长度的概率」,本身不受 $1$ 限制,例如 $U(0,\,0.5)$ 的密度 $f(x)=2$;而 $F$ 是累积概率,绝不能超过 $1$。
② 连续型 $P\{X=a\}=0$,所以「$P\{X=a\}=0$」不能反推 $X$ 不可能取 $a$;反过来,若某题算出 $P\{X=a\}\gt 0$,那 $X$ 一定不是连续型。
③ 由 $F$ 求 $f$ 时,只在 $F$ 可导的那几段求导,跳跃点处 $f$ 取 $0$ 或任意值都可以,不影响概率计算。
④ 归一性积分算完必须验证等于 $1$,这是唯一能检查待定常数的办法,不做这一步等于白算。
由概率密度求分布函数与待定常数
题型这类题的动作固定:先用 $\int_{-\infty}^{+\infty}f=1$ 定常数,再对 $F(x)=\int_{-\infty}^{x}f(t)\dd t$ 分段积分。
分段密度 → 分段分布函数
识别特征:题干给一个分段的 $f(x)$,含待定常数,或直接要求 $F(x)$。分段点通常就是密度「非零区间的端点」。
- 先用归一性 $\int_{-\infty}^{+\infty}f(x)\,\dd x=1$ 求出常数。只在非零区间上积分,其余段为 $0$ 不必算。
- 把非零区间 $(x_{\min},x_{\max})$ 的端点当成 $F$ 的分段点,按「$x$ 在哪个区间里」分三种情况:完全在左侧、落在非零区间内、完全在右侧。
- 完全在左侧时 $F(x)=0$;落在区间内时 $F(x)=\int_{x_{\min}}^{x}f(t)\dd t$,积分下限取非零区间的左端点;完全在右侧时 $F(x)=1$。
- 把中间那段积分算出来写成显式,最后检查三件事:$F$ 连续、单调不减、$F(+\infty)=1$。
已知随机变量 $X$ 的概率密度为
$$f(x)=\begin{cases}2\left(1-\dfrac{1}{x^{2}}\right),&1\le x\le 2\\ 0,&\text{其他}\end{cases}$$求 $X$ 的分布函数 $F(x)$。
当 $x\lt 1$ 时,$F(x)=\int_{-\infty}^{x}0\,\dd t=0$。当 $1\le x\lt 2$ 时,
$$F(x)=\int_{1}^{x}2\left(1-\frac{1}{t^{2}}\right)\dd t=2\left(t+\frac{1}{t}\right)\Big|_{1}^{x}=2\left(x+\frac{1}{x}-2\right)$$当 $x\ge 2$ 时,$F(x)=\int_{1}^{2}2\left(1-\dfrac{1}{t^{2}}\right)\dd t=2\left(2+\dfrac{1}{2}-2\right)=1$。故
$$F(x)=\begin{cases}0,&x\lt 1\\ 2\left(x+\dfrac{1}{x}-2\right),&1\le x\lt 2\\ 1,&x\ge 2\end{cases}$$验证:$F(1)=2(1+1-2)=0$,$F(2-0)=2(2+\frac{1}{2}-2)=1$,两段在分段点处接得上,且 $F$ 单调不减、右连续,符合要求。
密度满足微分方程:先解 $F$ 再求 $f$
识别特征:题干说「当 $x\le 0$ 时 $f(x)$ 连续,且 $f(x)=F(x)$」,把密度与分布函数绑在一个等式里,本质是一个微分方程。
- 用「在 $f$ 的连续点处 $F'(x)=f(x)$」把题意翻译成微分方程,这里即 $F'(x)=F(x)$。
- 解方程得 $F(x)=C\mathrm{e}^{x}$(在描述的那一段上),用该段的端点值定 $C$。
- 利用另一段的信息定另一段的 $F$。本题由 $F$ 单调不减且 $F(0)=1$,立刻知道 $x\gt 0$ 时 $F(x)\equiv 1$。
- 最后分段求导得 $f(x)$:$x\le 0$ 段取 $F'$,$x\gt 0$ 段 $F$ 是常数故 $f=0$。
已知 $X$ 的分布函数为 $F(x)$,概率密度为 $f(x)$。当 $x\le 0$ 时 $f(x)$ 连续,且 $f(x)=F(x)$,若 $F(0)=1$,则 $f(x)=$ ____($x\le 0$ 段)。
当 $x\le 0$ 时 $f(x)=F'(x)$,故 $F'(x)=F(x)$,解得 $F(x)=C\mathrm{e}^{x}$;由 $F(0)=1$ 得 $C=1$,即 $F(x)=\mathrm{e}^{x}$($x\lt 0$)。又 $F$ 单调不减且 $F(0)=1$ 已是最大值,故 $x\ge 0$ 时 $F(x)\equiv 1$。于是
$$F(x)=\begin{cases}\mathrm{e}^{x},&x\lt 0\\ 1,&x\ge 0\end{cases},\qquad f(x)=\begin{cases}\mathrm{e}^{x},&x\le 0\\ 0,&x\gt 0\end{cases}$$① 中间那段积分下限写 $-\infty$ 还是非零区间左端点:两者都对,但下限取 $-\infty$ 时要把前面恒为 $0$ 的部分单独写出来,否则容易漏掉 $t$ 的定义域。
② 求导时忘记 $F$ 在分段点不可导,直接把整段当成一个表达式求导,结果在跳跃点处出现无穷大。
③ 解出 $C$ 后不代回检验 $F(+\infty)=1$;本类题里 $F$ 在 $x\gt 0$ 段恒为 $1$ 正是靠这一条确认的。
五大离散分布与三大连续分布
知识点这八个分布是本讲唯一需要「照背」的部分:识别标志在前,公式在后,考场上先认模型再套式子。
离散型五大分布
| 分布 | 记号 | 分布律 |
|---|---|---|
| $0$—$1$ 分布 | $B(1,p)$ | $P\{X=k\}=p^{k}(1-p)^{1-k}$,$k=0,1$ |
| 二项分布 | $B(n,p)$ | $P\{X=k\}=\mathrm{C}_n^{k}p^{k}(1-p)^{n-k}$ |
| 泊松分布 | $P(\lambda)$ | $P\{X=k\}=\dfrac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda}$ |
| 几何分布 | $G(p)$ | $P\{X=k\}=(1-p)^{k-1}p$ |
| 超几何分布 | $H(n,N,M)$ | $P\{X=k\}=\dfrac{\mathrm{C}_M^{k}\mathrm{C}_{N-M}^{n-k}}{\mathrm{C}_N^{n}}$ |
| 分布 | 识别标志 |
|---|---|
| $B(1,p)$ | 只取 $0$ 与 $1$ 两个值,$k=0,1$。伯努利计数变量:发生计 $1$、不发生计 $0$;是二项分布 $n=1$ 的特例 |
| $B(n,p)$ | $n$ 重伯努利试验中 $A$ 发生的次数,$k=0,1,\cdots,n$,$p=P(A)$。有放回抽样、独立重复射击属此类 |
| $P(\lambda)$ | 单位时间质点来流个数、稀有事件发生次数,$k=0,1,\cdots$,$\lambda\gt 0$ 为来流强度 |
| $G(p)$ | $n$ 重伯努利试验中 $A$ 首次出现即停止时的试验次数,$k=1,2,\cdots$,即「首中即停止」的等待分布 |
| $H(n,N,M)$ | $N$ 个产品含 $M$ 个不合格品,不放回抽 $n$ 个,其中不合格品个数;$\max\{0,n-N+M\}\le k\le\min\{M,n\}$,古典概型直接推得 |
超几何分布的 $k$ 取值范围是 $\max\{0,\ n-N+M\}\le k\le\min\{M,\ n\}$,$M,N,n$ 为正整数且 $M\le N$,$n\le N$。不必专门记,用「抽到的不合格品数不能超过总数、也不能超过不合格品总数」现场推即可。
若 $X\sim B(n,p)$,当 $n$ 很大、$p$ 很小、$\lambda=np$ 适中时,二项分布可用泊松分布近似:
$$\mathrm{C}_n^{k}p^{k}(1-p)^{n-k}\approx\frac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda},\qquad \lambda=np$$一般地,当 $n\ge 20$、$p\le 0.05$ 时用泊松近似效果较好;特别当 $n\ge 100$、$np\le 10$ 时效果更佳。大纲明确要求「会用泊松分布近似表示二项分布」,这条要会算会判。
另有反向近似:当 $n\ll N$(抽取个数远小于总数)时,超几何分布可用二项分布近似,此时不放回抽样可近似当作放回抽样,不合格品率 $p=\frac{M}{N}$ 基本不变。
连续型三大分布
密度在 $(a,b)$ 上为常数,其余为 $0$:
$$f(x)=\begin{cases}\dfrac{1}{b-a},&a\lt x\lt b\\ 0,&\text{其他}\end{cases}$$分布函数为 $F(x)=\dfrac{x-a}{b-a}$($a\le x\lt b$),$x\lt a$ 时为 $0$,$x\ge b$ 时为 $1$。区间 $(a,b)$ 也可写成闭区间 $[a,b]$;几何概型就是它的实际背景。
密度只在 $x\gt 0$ 上非零,其余为 $0$:
$$f(x)=\begin{cases}\lambda\mathrm{e}^{-\lambda x},&x\gt 0\\ 0,&\text{其他}\end{cases}\qquad F(x)=\begin{cases}1-\mathrm{e}^{-\lambda x},&x\ge 0\\ 0,&x\lt 0\end{cases}$$$\lambda$ 称为失效频率,$\lambda$ 越大衰减越快。它的招牌性质是无记忆性:当 $t\gt 0$、$s\gt 0$ 时,
$$P\{X\ge t+s\mid X\ge t\}=P\{X\ge s\}$$意思是元件已经正常工作 $t$ 小时这件事,不会改变它再正常工作 $s$ 小时的概率——旧的不影响新的。正因为 $\lambda$ 是常数,研究对象被视为理想状态、无任何损耗。
其中 $-\infty\lt\mu\lt+\infty$,$\sigma\gt 0$:
$$f(x)=\frac{1}{\sqrt{2\pi}\sigma}\mathrm{e}^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}},\qquad -\infty\lt x\lt+\infty$$$f(x)$ 的图形关于直线 $x=\mu$ 对称,即 $f(\mu-x)=f(\mu+x)$,并在 $x=\mu$ 处取唯一最大值 $\dfrac{1}{\sqrt{2\pi}\sigma}$。$\sigma$ 越小曲线越高越瘦,$\sigma$ 越大越矮越扁,但曲线下总面积恒为 $1$。
称 $\mu=0$、$\sigma=1$ 时的 $N(0,1)$ 为标准正态分布,其密度与分布函数分别记作
$$\varphi(x)=\frac{1}{\sqrt{2\pi}}\mathrm{e}^{-\frac{x^{2}}{2}},\qquad \Phi(x)=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{x}\mathrm{e}^{-\frac{t^{2}}{2}}\,\dd t$$$\varphi(x)$ 是偶函数,于是两条最常用的对称性结论:
$$\Phi(0)=\frac{1}{2},\qquad \Phi(-x)=1-\Phi(x)$$若 $X\sim N(0,1)$ 且 $P\{X\gt u_{\alpha}\}=\alpha$,则称 $u_{\alpha}$ 为标准正态分布的上侧 $\alpha$ 分位数(上 $\alpha$ 分位点)。
若 $X\sim N(\mu,\sigma^{2})$,则 $\dfrac{X-\mu}{\sigma}\sim N(0,1)$,于是
$$F(x)=P\{X\le x\}=\Phi\left(\frac{x-\mu}{\sigma}\right)$$ $$P\{a\lt X\lt b\}=\Phi\left(\frac{b-\mu}{\sigma}\right)-\Phi\left(\frac{a-\mu}{\sigma}\right)$$ $$F(\mu-x)+F(\mu+x)=1$$以及线性变换后的分布:$aX+b\sim N(a\mu+b,\ a^{2}\sigma^{2})$($a\ne 0$)。
① 指数分布的 $f$ 与 $F$ 里参数位置不同:密度是 $f(x)=\lambda\mathrm{e}^{-\lambda x}$,分布函数是 $F(x)=1-\mathrm{e}^{-\lambda x}$,别把公式里的 $\lambda$ 写成 $1/\lambda$。
② 正态分布的密度里分母是 $\sqrt{2\pi}\sigma$,$\sigma$ 在根号外;$\sigma^{2}$ 才在指数里的 $2$ 后面。写错一处整个曲线都算错。
③ 几何分布从 $k=1$ 开始(首次出现即停止时,试验次数至少为 $1$),泊松分布从 $k=0$ 开始($0$ 次也算),两者起点不同,概率之和都等于 $1$。
④ 均匀分布 $U(a,b)$ 的 $F$ 在 $x=a$ 处取 $0$、在 $x=b$ 处取 $1$,中间段是左闭右开,别把 $a$、$b$ 端点写进同一段。
正态分布:标准化与对称性
题型正态题只有两个动作:标准化与用对称性。前者把 $N(\mu,\sigma^{2})$ 化成 $N(0,1)$,后者利用曲线关于 $x=\mu$ 对称、总面积 $1$。
已知一段区间概率,反求另一段
识别特征:题干给出 $X\sim N(\mu,\sigma^{2})$ 与某个对称区间上的概率(如 $P\{2\lt X\lt 4\}=0.3$),要求另一个区间上的概率。$\sigma$ 往往不求出来。
- 把已知区间标准化:$P\{2\lt X\lt 4\}=\Phi\!\left(\frac{4-\mu}{\sigma}\right)-\Phi\!\left(\frac{2-\mu}{\sigma}\right)$。
- 若 $\mu$ 恰是区间中点(此题 $\mu=2$ 正好是中点),则 $\Phi(0)=\frac{1}{2}$,直接解出 $\Phi\!\left(\frac{2}{\sigma}\right)$ 的值。
- 所求区间同样标准化,用第 2 步得到的 $\Phi$ 值与 $\Phi(0)=\frac{1}{2}$ 拼出来。
- 或者干脆不标准化:画图看面积对称。已知中点两侧各 $0.15$,则中点往左的全部面积是 $0.5-0.15$。
设 $X\sim N(2,\sigma^{2})$,且 $P\{2\lt X\lt 4\}=0.3$,则 $P\{X\lt 0\}=$ ____。
由 $X\sim N(2,\sigma^{2})$,标准化得 $P\{2\lt X\lt 4\}=\Phi\!\left(\frac{2}{\sigma}\right)-\Phi(0)=\Phi\!\left(\frac{2}{\sigma}\right)-0.5$,故 $\Phi\!\left(\frac{2}{\sigma}\right)=0.8$。所求 $P\{X\lt 0\}=\Phi\!\left(-\frac{2}{\sigma}\right)=1-\Phi\!\left(\frac{2}{\sigma}\right)=0.2$。
更快的看法是画图:曲线关于 $x=2$ 对称,$2$ 到 $4$ 的面积是 $0.3$,由对称性 $0$ 到 $2$ 的面积也是 $0.3$;而 $x\lt 2$ 的总面积是 $0.5$,故 $x\lt 0$ 的面积是 $0.5-0.3=0.2$。
标准差变化下的概率单调性
识别特征:题干让 $\sigma$ 变化($\mu$ 固定),问 $P\{|X-\mu|\lt 1\}$ 这类「中心邻域」概率的单调性。只要不是标准正态,就往标准化上想。
- 先标准化:$P\{|X-\mu|\lt 1\}=P\!\left\{\left|\frac{X-\mu}{\sigma}\right|\lt \frac{1}{\sigma}\right\}=2\Phi\!\left(\frac{1}{\sigma}\right)-1$。
- 观察内层 $u=\frac{1}{\sigma}$ 随 $\sigma$ 单调减少($\sigma\gt 0$)。
- 再观察外层 $\Phi(u)$ 随 $u$ 单调增加。
- 复合之后「内减外增」,结论是随 $\sigma$ 增大而单调减少——$\sigma$ 越大分布越扁平,中心附近的概率越小。
设随机变量 $X$ 服从正态分布 $N(\mu,\sigma^{2})$,则随着 $\sigma$ 的增大,$P\{|X-\mu|\lt 1\}$( )。
(A)单调增加 (B)单调减少 (C)保持不变 (D)先增后减
$P\{|X-\mu|\lt 1\}=P\!\left\{\left|\frac{X-\mu}{\sigma}\right|\lt \frac{1}{\sigma}\right\}=2\Phi\!\left(\frac{1}{\sigma}\right)-1$。$\Phi$ 单调增加,而 $\frac{1}{\sigma}$ 随 $\sigma$ 增大单调减少,故整体单调减少,选(B)。
① 标准化只对 $N(\mu,\sigma^{2})$ 有效:$\dfrac{X-\mu}{\sigma}\sim N(0,1)$,分子里是 $\sigma$ 不是 $\sigma^{2}$。
② 用 $\Phi(-x)=1-\Phi(x)$ 时符号容易错:$\Phi\!\left(\frac{0-2}{\sigma}\right)=\Phi\!\left(-\frac{2}{\sigma}\right)=1-\Phi\!\left(\frac{2}{\sigma}\right)$,负号先提出,再翻转。
③ 分位数问题要看清问的是「上侧」还是「下侧」:$P\{X\gt u_{\alpha}\}=\alpha$ 与 $P\{X\lt u_{\alpha}\}=\alpha$ 对应的是两个不同位置,$u_{\alpha}$ 与 $u_{1-\alpha}$ 互为相反数。
一维随机变量函数的分布
题型已知 $X$ 的分布,求 $Y=g(X)$ 的分布。离散型只需「换值、合并」,连续型要用分布函数法,这是本讲唯一需要动积分的计算题。
设 $X$ 的分布律为 $P\{X=x_i\}=p_i$,$i=1,2,\cdots$,则 $Y=g(X)$ 仍是离散型随机变量,其分布律为
$$P\{Y=g(x_i)\}=p_i,\qquad i=1,2,\cdots$$如果若干个 $g(x_i)$ 的值相同,则合并同类项:把它们对应的概率相加,作为 $Y$ 取该值的概率。
设 $X$ 的分布函数、概率密度分别为 $F_X(x)$ 与 $f_X(x)$。求 $Y=g(X)$ 有两种方法:
① 分布函数法(定义法,最可靠):直接由定义求
$$F_Y(y)=P\{Y\le y\}=P\{g(X)\le y\}=\int_{g(x)\le y}f_X(x)\,\dd x$$把不等式 $g(X)\le y$ 反解成关于 $X$ 的条件,再对 $f_X$ 积分。若 $F_Y(y)$ 连续且除有限个点外可导,则 $f_Y(y)=F_Y'(y)$。
② 公式法:若 $y=g(x)$ 在 $(a,b)$ 上严格单调可导,存在可导反函数 $x=h(y)$,则
$$f_Y(y)=\begin{cases}f_X[h(y)]\cdot|h'(y)|,&\alpha\lt y\lt \beta\\ 0,&\text{其他}\end{cases}$$其中 $\alpha=\min\left\{\lim\limits_{x\to a}g(x),\ \lim\limits_{x\to b}g(x)\right\}$,$\beta=\max\left\{\lim\limits_{x\to a}g(x),\ \lim\limits_{x\to b}g(x)\right\}$。
若 $g$ 不在整个区间上单调(如 $Y=X^{2}$),公式法要拆成几段分别做,这时用分布函数法更稳。
非单调函数(如 $Y=X^{2}$):分布函数法分区讨论
识别特征:$g$ 含平方、绝对值、$\max$、$\min$,在 $X$ 的支持集上不单调。$Y$ 的取值范围会因 $g$ 的折返而被压缩,必须按 $y$ 的取值分区间讨论。
- 先把 $Y$ 的可能取值范围写出来:$Y=X^{2}$ 时 $Y\ge 0$,且因为 $X$ 有界,$Y$ 的上限也确定。
- 按 $y$ 分区间:$y\lt 0$(不可能)、$0\le y\lt 1$、$1\le y\lt 4$、$y\ge 4$ 这类分界点来自 $X$ 分段端点的平方。
- 每段内把 $\{g(X)\le y\}$ 反解成 $X$ 的区间,注意非单调时解集是两段并集,分别积分再相加。
- 累加得到 $F_Y(y)$ 的分段式,再逐段求导得 $f_Y(y)$,最后验证 $\int f_Y=1$。
设 $X$ 的概率密度为 $f_X(x)=\dfrac{1}{2}$($-1\lt x\lt 0$),$f_X(x)=\dfrac{1}{4}$($0\le x\lt 2$),其余为 $0$。令 $Y=X^{2}$,求 $f_Y(y)$。
$F_Y(y)=P\{X^{2}\le y\}$。$y\lt 0$ 时 $F_Y(y)=0$。$0\le y\lt 1$ 时 $-\sqrt{y}\le X\le\sqrt{y}$ 完整落在 $(-1,2)$ 内,于是 $F_Y(y)=\int_{-\sqrt{y}}^{0}\frac{1}{2}\dd x+\int_{0}^{\sqrt{y}}\frac{1}{4}\dd x$,即 $\frac{3}{4}\sqrt{y}$。$1\le y\lt 4$ 时左端被 $-1$ 截断,$F_Y(y)=P\{-1\le X\lt 0\}+P\{0\le X\le\sqrt{y}\}$,即 $\frac{1}{2}+\frac{1}{4}\sqrt{y}$。$y\ge 4$ 时 $F_Y(y)=1$。求导得
$$f_Y(y)=\begin{cases}\dfrac{3}{8\sqrt{y}},&0\lt y\lt 1\\ \dfrac{1}{8\sqrt{y}},&1\lt y\lt 4\\ 0,&\text{其他}\end{cases}$$检查:$\int_{0}^{1}\frac{3}{8\sqrt{y}}\dd y+\int_{1}^{4}\frac{1}{8\sqrt{y}}\dd y=\frac{3}{4}+\frac{1}{4}=1$,归一性成立。
单调函数:公式法直接套
识别特征:$g$ 在 $X$ 的取值区间上严格单调(如 $Y=\mathrm{e}^{X}$、$Y=1-\sqrt[3]{X}$、$Y=aX+b$),可以直接套公式,不必分段积分。
- 求反函数 $x=h(y)$,并写出 $h'(y)$。
- 确定 $Y$ 的取值范围:把 $X$ 的取值区间两端代入 $g$,取小者为 $\alpha$、大者为 $\beta$。
- 代入 $f_Y(y)=f_X[h(y)]\cdot|h'(y)|$,注意是绝对值,$g$ 递减时忽略符号是最高频错误。
- 把 $h(y)$ 代回 $f_X$ 的表达式里,化简后补上 $0$ 的区间。
设 $X$ 的概率密度为 $f_X(x)=\dfrac{1}{\pi(1+x^{2})}$($x\in\mathbb{R}$),令 $Y=1-\sqrt[3]{x}$,求 $f_Y(y)$。
$y=1-\sqrt[3]{x}$ 严格单调递减,反函数 $x=(1-y)^{3}$,$h'(y)=-3(1-y)^{2}$。$X$ 取遍 $\mathbb{R}$,故 $Y$ 也取遍 $\mathbb{R}$。于是
$$f_Y(y)=f_X\bigl[(1-y)^{3}\bigr]\cdot 3(1-y)^{2}=\frac{3(1-y)^{2}}{\pi\left[1+(1-y)^{6}\right]},\qquad y\in\mathbb{R}$$设 $X$ 的分布函数 $F_X(x)$ 严格单调增加(其反函数存在),则
$$Y=F_X(X)\sim U(0,1)$$推导一行就够:$0\le y\lt 1$ 时 $F_Y(y)=P\{F_X(X)\le y\}=P\{X\le F_X^{-1}(y)\}$,即 $F_X\bigl[F_X^{-1}(y)\bigr]=y$;$y\lt 0$ 时 $0$,$y\ge 1$ 时 $1$。这正是在 $(0,1)$ 上的均匀分布函数。
题设中「严格单调增加」是充分条件,实际上只要 $F_X$ 在 $X$ 的正概率密度区间上严格单调增加即可。这个结论在随机数生成与区间估计里反复出现,考研常用。
① 离散型函数分布只需「合并同值」,不要去做积分;连续型才用分布函数法。两类混用是概念性错误。
② 公式法里的 $|\cdot|$ 不能丢:$g$ 严格递减时 $h'(y)\lt 0$,丢了绝对值会得到负密度。
③ 分布函数法里最容易漏的是分区间边界:$Y=X^{2}$ 的分界点由 $X$ 的分段端点平方得到,漏掉一段会让 $\int f_Y$ 不等于 $1$。
④ 若 $X$ 是混合型(既有点上的正概率、又有区间上的密度),$Y$ 也可能是混合型。这时必须回到定义 $F_Y(y)=P\{g(X)\le y\}$ 逐段算,不能套公式法。
本讲结论速查
结论速查- 分布函数
- $F(x)=P\{X\le x\}$,$x\in(-\infty,+\infty)$,完整描述概率规律
- 三条充要性质
- 单调不减;右连续 $F(x_0+0)=F(x_0)$;$F(-\infty)=0$ 且 $F(+\infty)=1$
- 判定口诀
- 三性质倒一条就不是分布函数;$0\le F(x)\le 1$ 自动成立
- 七条公式
- $P\{X\le a\}=F(a)$;$P\{X\lt a\}=F(a-0)$;$P\{X=a\}=F(a)-F(a-0)$;四类区间按端点开闭选 $F(a)$ 或 $F(a-0)$
- 离散型
- $P\{X=x_i\}=p_i$,$p_i\ge 0$ 且 $\sum p_i=1$;$F(x)=\sum_{x_i\le x}p_i$;$P\{X=a\}$ 就是跃度
- 连续型
- $F(x)=\int_{-\infty}^{x}f(t)\dd t$,$f\ge 0$ 且 $\int f=1$;$P\{X=c\}=0$;$P\{a\lt X\lt b\}=F(b)-F(a)$
- 密度与 $F$
- 在 $f$ 的连续点处 $F'(x)=f(x)$;密度可 $\gt 1$,但 $F$ 必在 $[0,1]$
- $0$—$1$ 分布
- $B(1,p)$:$P\{X=1\}=p$,$P\{X=0\}=1-p$
- 二项分布
- $B(n,p)$:$\mathrm{C}_n^{k}p^{k}(1-p)^{n-k}$,$n$ 重伯努利中 $A$ 发生的次数
- 泊松分布
- $P(\lambda)$:$\dfrac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda}$,$k=0,1,\cdots$
- 几何分布
- $G(p)$:$(1-p)^{k-1}p$,$k=1,2,\cdots$,首次出现即停止的试验次数
- 超几何分布
- $H(n,N,M)$:$\dfrac{\mathrm{C}_M^{k}\mathrm{C}_{N-M}^{n-k}}{\mathrm{C}_N^{n}}$,不放回抽样中不合格品数
- 泊松定理
- $\mathrm{C}_n^{k}p^{k}(1-p)^{n-k}\approx\dfrac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda}$,$\lambda=np$;$n\ge 20$ 且 $p\le 0.05$ 时效果好
- 均匀分布
- $U(a,b)$:$f=\dfrac{1}{b-a}$;$F=\dfrac{x-a}{b-a}$($a\le x\lt b$)
- 指数分布
- $E(\lambda)$:$f=\lambda\mathrm{e}^{-\lambda x}$($x\gt 0$);$F=1-\mathrm{e}^{-\lambda x}$;无记忆性
- 正态分布
- $N(\mu,\sigma^{2})$:$f=\dfrac{1}{\sqrt{2\pi}\sigma}\mathrm{e}^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}}$,关于 $x=\mu$ 对称,峰值 $\dfrac{1}{\sqrt{2\pi}\sigma}$
- 标准正态
- $\Phi(0)=\dfrac{1}{2}$,$\Phi(-x)=1-\Phi(x)$
- 标准化
- $F(x)=\Phi\!\left(\dfrac{x-\mu}{\sigma}\right)$;$P\{a\lt X\lt b\}=\Phi\!\left(\dfrac{b-\mu}{\sigma}\right)-\Phi\!\left(\dfrac{a-\mu}{\sigma}\right)$
- 线性变换
- $aX+b\sim N(a\mu+b,\ a^{2}\sigma^{2})$,$a\ne 0$;$F(\mu-x)+F(\mu+x)=1$
- 上侧分位数
- $P\{X\gt u_{\alpha}\}=\alpha$;由对称性 $u_{1-\alpha}=-u_{\alpha}$
- 函数的分布
- 离散型:$P\{Y=g(x_i)\}=p_i$,同值合并;连续型:分布函数法 $F_Y(y)=P\{g(X)\le y\}$,单调时才用公式法 $f_Y(y)=f_X[h(y)]|h'(y)|$
- 常用结论
- $F_X$ 严格单调时 $Y=F_X(X)\sim U(0,1)$
多维随机变量及其分布
从一维到二维:联合分布看全局,边缘与条件看局部,独立性判定与随机变量函数的分布是这讲的主战场。
联合分布函数:二维的总账本
知识点一维随机变量把一个事件映射成一个数,二维随机变量把它映射成一对数。所有二维问题都从同一句话出发:$F(x,y)$ 是 $(X,Y)$ 落在点 $(x,y)$ 左下方那块区域的概率。
设 $X,Y$ 是定义在同一概率空间上的两个随机变量,则称 $(X,Y)$ 为二维随机变量(二维随机向量)。对任意实数 $x,y$,称二元函数
$$F(x,y)=P\{X\le x,\ Y\le y\}$$
为 $(X,Y)$ 的分布函数,或 $X$ 与 $Y$ 的联合分布函数,记作 $(X,Y)\sim F(x,y)$。
注意 $F(x,y)$ 本质上是事件交的概率:$F(x,y)=P\big(\{X\le x\}\cap\{Y\le y\}\big)$。所以讨论它时,脑子里要一直有「以 $(x,y)$ 为右上角的左下方区域」这张图。
- ① 单调性:固定 $y$,$F(x,y)$ 关于 $x$ 单调不减;固定 $x$,关于 $y$ 单调不减。
- ② 右连续:对任意固定的 $y$,$\lim_{x\to x_0^{+}}F(x,y)=F(x_0,y)$;对固定的 $x$,$\lim_{y\to y_0^{+}}F(x,y)=F(x,y_0)$。
- ③ 极限性:$F(-\infty,y)=F(x,-\infty)=F(-\infty,-\infty)=0$,且 $F(+\infty,+\infty)=1$。
- ④ 非负性(矩形公式):对任意 $x_1\lt x_2,\ y_1\lt y_2$,有 $$P\{x_1\lt X\le x_2,\ y_1\lt Y\le y_2\}=F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)\ge 0.$$
④ 是二维独有的约束,也是四条里最常考的一条:它是「矩形区域」的概率,用 $F$ 作四角差分即可。记忆方式是右上角减两邻、再加回左下角,符号交替出现。
① 「单调不减」不等于「连续」,$F$ 允许有跳跃,但必须右连续。② 矩形公式里 $F(x_2,y_1)$ 与 $F(x_1,y_2)$ 两减一加,漏一项就会算出负数。③ 只满足 ①②③ 的二元函数不一定是联合分布函数,必须同时满足 ④;反过来说,这四条全部满足就是充要条件。
边缘分布与条件分布:从二维里取一维
知识点边缘分布是「只看一个变量」的分布,条件分布是「已知另一个变量取值」后的分布。两者都能从联合分布里算出来,不需要重新建模。
一、离散型
设 $(X,Y)$ 的可能取值是有限对或可列无限对 $(x_i,y_j)$,称
$$p_{ij}=P\{X=x_i,\ Y=y_j\},\quad i,j=1,2,\cdots$$
为 $(X,Y)$ 的联合分布律。它满足 $p_{ij}\ge 0$ 与 $\sum_{i}\sum_{j}p_{ij}=1$;联合分布函数为
$$F(x,y)=\sum_{x_i\le x}\ \sum_{y_j\le y}p_{ij}.$$
把联合分布律排成表格,横着加得到 $X$ 的边缘分布律,竖着加得到 $Y$ 的边缘分布律:
$$p_{i\cdot}=P\{X=x_i\}=\sum_{j=1}^{\infty}p_{ij},\qquad p_{\cdot j}=P\{Y=y_j\}=\sum_{i=1}^{\infty}p_{ij}.$$
条件分布律就是条件概率的二维版本,分母是竖线后面那个变量的边缘分布:
$$P\{X=x_i\mid Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}}\ (p_{\cdot j}\gt 0),\qquad P\{Y=y_j\mid X=x_i\}=\frac{p_{ij}}{p_{i\cdot}}\ (p_{i\cdot}\gt 0).$$
- 联合分布 = 边缘分布 × 条件分布,即 $p_{ij}=p_{\cdot j}\cdot P\{X=x_i\mid Y=y_j\}$。表格里「三知二求一」的填空就是这条。
- 横加竖加得边缘,联合除以边缘得条件,方向不要反:$P\{X=x_i\mid Y=y_j\}$ 除的是 $p_{\cdot j}$,不是 $p_{i\cdot}$。
- 归一性检查:表格里所有 $p_{ij}$ 加起来必须是 $1$,边缘分布各自加起来也必须是 $1$。
二、连续型
若存在非负可积函数 $f(x,y)$,使 $(X,Y)$ 的分布函数可写成
$$F(x,y)=\int_{-\infty}^{y}\mathrm{d}v\int_{-\infty}^{x}f(u,v)\,\mathrm{d}u,$$
则称 $(X,Y)$ 为二维连续型随机变量,$f(x,y)$ 为其概率密度,记 $(X,Y)\sim f(x,y)$。密度的充要条件是 $f(x,y)\ge 0$ 且在全平面上的二重积分为 $1$。
与一维完全对应:分布函数是密度的二重积分,密度是分布函数的二阶混合偏导(在连续点处),
$$F(x,y)=\int\!\!\int_{u\le x,\ v\le y}f(u,v)\,\mathrm{d}u\mathrm{d}v,\qquad \frac{\partial^{2}F(x,y)}{\partial x\,\partial y}=f(x,y).$$
一个区域上的概率是密度在该区域上的二重积分:
$$P\{(X,Y)\in G\}=\int\!\!\int_{G}f(x,y)\,\mathrm{d}x\mathrm{d}y.$$
求 $f_X(x)$ 就对 $y$ 积分($x$ 不动):
$$f_X(x)=\int_{-\infty}^{+\infty}f(x,y)\,\mathrm{d}y;$$
求 $f_Y(y)$ 就对 $x$ 积分:$f_Y(y)=\int_{-\infty}^{+\infty}f(x,y)\,\mathrm{d}x$。
$$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}\ (f_X(x)\gt 0),$$
$$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}\ (f_Y(y)\gt 0).$$
于是有概率密度乘法公式与条件分布函数:
$$f(x,y)=f_X(x)f_{Y|X}(y|x)=f_Y(y)f_{X|Y}(x|y),$$
$$F_{Y|X}(y|x)=\int_{-\infty}^{y}f_{Y|X}(t|x)\,\mathrm{d}t.$$
求边缘:求谁不积谁,不积先定限,限内画条线,先交写下限,后交写上限。求条件:条件密度 = 联合密度 ÷ 边缘密度,分母永远是竖线后面那个变量的边缘密度。
① 写 $f_{Y|X}(y|x)=\dfrac{f(x,y)}{f_Y(y)}$ 是典型错误,分母看的是竖线后面的 $X$,应该除 $f_X(x)$。② 条件密度的定义域只是原来二维区域被 $X=x$ 截出的一条线段,不是整块区域;把边缘密度乘回去才回到二维区域。③ $f_X(x)=0$ 的点上条件密度没有定义。
独立性:联合分布能否拆成两个边缘之积
知识点设 $(X,Y)\sim F(x,y)$,边缘分布函数为 $F_X(x),F_Y(y)$。若对任意实数 $x,y$ 都有
$$F(x,y)=F_X(x)\cdot F_Y(y),$$
则称 $X$ 与 $Y$ 相互独立。上式等价于事件 $\{X\le x\}$ 与 $\{Y\le y\}$ 对任意 $x,y$ 相互独立。
- 离散型:$p_{ij}=p_{i\cdot}\,p_{\cdot j}$ 对一切 $i,j$ 成立。
- 连续型:$f(x,y)=f_X(x)f_Y(y)$ 在(几乎)所有点成立。
- 等价的直观说法:独立时条件分布等于边缘分布,即 $f_{Y|X}(y|x)=f_Y(y)$、$P\{X=x_i\mid Y=y_j\}=p_{i\cdot}$。已知一个变量的取值,不影响另一个变量的分布。
独立性的性质
① 若 $X_1,X_2,\cdots,X_n$ 相互独立,则其中任意 $k\ (2\le k\le n)$ 个也相互独立;
② 若 $X,Y$ 独立,$g,h$ 是一元连续函数,则 $g(X)$ 与 $h(Y)$ 也独立;
③ 若 $X,Y$ 独立且期望存在,则 $E(XY)=EX\cdot EY$(第 4 讲反复用)。
怎么严格说明「不独立」
找一对 $x_0,y_0$,使 $0\lt P\{X\le x_0\}\lt 1$、$0\lt P\{Y\le y_0\}\lt 1$,并且两个事件有包含或互斥关系:
- 若 $\{X\le x_0\}\subset\{Y\le y_0\}$,则 $P\{X\le x_0,Y\le y_0\}=P\{X\le x_0\}$,而 $P\{X\le x_0\}P\{Y\le y_0\}\lt P\{X\le x_0\}$,二者不等。
- 若 $\{X\le x_0\}\cap\{Y\le y_0\}=\varnothing$,则左边是 $0$,右边是两个正数之积,二者不等。
只要举出一对 $x_0,y_0$ 使 $F(x_0,y_0)\neq F_X(x_0)F_Y(y_0)$,就已经证明了不独立,不必验证所有 $x,y$。经典反例:$X$ 与 $|X|$ 一定不独立(见 3.7 题型 3)。
「独立」要求对任意 $x,y$ 成立,验证时不能只看一两个点就下结论;反过来,证明不独立只需举出一个反例点。另外,两个变量的边缘分布都是正态,也推不出联合是二维正态,更推不出独立。
二维均匀分布与二维正态分布
知识点大纲只要求掌握这两个二维分布。均匀分布考「面积比」,二维正态考「五个参数 + 独立与不相关等价」。
设 $D$ 是平面上的有界区域,面积为 $S_D$。若 $(X,Y)$ 的概率密度为
$$f(x,y)=\frac{1}{S_D},\quad (x,y)\in D;\qquad f(x,y)=0,\quad (x,y)\notin D,$$
则称 $(X,Y)$ 在区域 $D$ 上服从均匀分布。
均匀分布的含义是「落在 $D$ 内等面积的小块里概率相同」,所以算概率只要算面积比:
$$P\{(X,Y)\in G\}=\frac{S_{G\cap D}}{S_D}.$$
这也解释了为什么求边缘密度时必须先画图:$f_X(x)$ 是竖直线 $X=x$ 与 $D$ 相交的那段线段的长度除以 $S_D$,$f_Y(y)$ 是水平线截出的长度除以 $S_D$。
若 $(X,Y)$ 的概率密度为
$$f(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^{2}}}\exp\left\{-\frac{Q(x,y)}{2(1-\rho^{2})}\right\},$$
其中 $Q(x,y)=\dfrac{(x-\mu_1)^{2}}{\sigma_1^{2}}-2\rho\dfrac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\dfrac{(y-\mu_2)^{2}}{\sigma_2^{2}}$,且 $\mu_1,\mu_2$ 为任意实数,$\sigma_1\gt 0,\sigma_2\gt 0$,$-1\lt\rho\lt 1$,则称 $(X,Y)$ 服从二维正态分布,记作 $(X,Y)\sim N(\mu_1,\mu_2;\ \sigma_1^{2},\sigma_2^{2};\ \rho)$。注意 $\rho$ 是 $X$ 与 $Y$ 的相关系数,不是协方差。
二维正态有三条必背结论:
- a. 边缘必为正态:$X\sim N(\mu_1,\sigma_1^{2})$,$Y\sim N(\mu_2,\sigma_2^{2})$,且 $X,Y$ 的期望、方差、相关系数就是密度里的五个参数。
- b. 独立与不相关等价:对二维正态,$\rho=0\iff X$ 与 $Y$ 相互独立。此时密度恰好拆成两个边缘密度之积。注意这条只对二维正态成立。
- c. 线性组合仍为正态:若 $(X,Y)\sim N(\mu_1,\mu_2;\sigma_1^{2},\sigma_2^{2};\rho)$,则对不全为零的常数 $k_1,k_2$, $$k_1X+k_2Y\sim N\big(k_1\mu_1+k_2\mu_2,\ k_1^{2}\sigma_1^{2}+k_2^{2}\sigma_2^{2}+2k_1k_2\rho\sigma_1\sigma_2\big).$$
① 参数顺序是 $(\mu_1,\mu_2;\sigma_1^{2},\sigma_2^{2};\rho)$,第二个位置是 $\sigma^2$ 不是 $\sigma$。② 「边缘都正态」推不出「联合正态」,只有加上「相互独立」或「联合密度确为上面那个式子」才行。③ $\rho=0$ 对一般二维随机变量只说明不相关,不能推出独立;二维正态是唯一让两者等价的常见模型。
求联合分布、边缘分布与条件分布
题型补表格、求边缘、求条件
识别特征:给出二维离散型的取值与部分概率(或给出二维连续型的联合密度),要求补全分布律、写出边缘分布、写出条件分布。离散型看表格,连续型看图形。
- 离散型:先列出 $(X,Y)$ 的全部可能取值对,逐一算 $p_{ij}$,用 $\sum\sum p_{ij}=1$ 检查(这一步常常用来解出待定参数)。
- 离散型:横加得 $p_{i\cdot}$,竖加得 $p_{\cdot j}$;条件分布律用 $p_{ij}$ 除以对应的边缘。
- 连续型:先画 $f(x,y)\neq 0$ 的正概率区域,必要时用归一性定常数,再写出分段密度。
- 连续型:按「求谁不积谁」求边缘密度,别忘了标注每一段的定义域;条件密度 = 联合 ÷ 边缘。
- 最后做两个检查:边缘密度积分是否为 $1$;条件密度在其定义区间上积分是否为 $1$。
将两封信随机投入 3 个信箱,$X_1,X_2$ 分别表示第 1、第 2 个信箱中投进的信数。求 $(X_1,X_2)$ 的分布律、边缘分布律,以及 $X_2=1$ 条件下 $X_1$ 的条件分布。
每封信都有 3 种投法,样本点共 $3^{2}=9$ 个。$X_1,X_2$ 只能取 $0,1,2$:
$p_{00}=P\{X_1=0,X_2=0\}=\dfrac{1}{9}$(两封都在 3 号箱);$p_{01}=\dfrac{2}{9}$;$p_{02}=\dfrac{1}{9}$;$p_{10}=\dfrac{2}{9}$;$p_{11}=\dfrac{2}{9}$;$p_{12}=p_{21}=p_{22}=0$;$p_{20}=\dfrac{1}{9}$。
| $X_1\backslash X_2$ | 0 | 1 | 2 | $p_{i\cdot}$ |
|---|---|---|---|---|
| 0 | $\frac{1}{9}$ | $\frac{2}{9}$ | $\frac{1}{9}$ | $\frac{4}{9}$ |
| 1 | $\frac{2}{9}$ | $\frac{2}{9}$ | 0 | $\frac{4}{9}$ |
| 2 | $\frac{1}{9}$ | 0 | 0 | $\frac{1}{9}$ |
| $p_{\cdot j}$ | $\frac{4}{9}$ | $\frac{4}{9}$ | $\frac{1}{9}$ | 1 |
条件分布:$P\{X_1=0\mid X_2=1\}=\dfrac{p_{01}}{p_{\cdot 1}}=\dfrac{2/9}{4/9}=\dfrac{1}{2}$,$P\{X_1=1\mid X_2=1\}=\dfrac{1}{2}$,$P\{X_1=2\mid X_2=1\}=0$。即 $X_1\mid X_2=1$ 服从 $\begin{pmatrix}0 & 1\\ \frac{1}{2} & \frac{1}{2}\end{pmatrix}$。
$(X,Y)$ 在区域 $G$ 上服从均匀分布,$G$ 由直线 $x-y=0$、$x+y=2$ 与 $y=0$ 围成。求 $f_X(x)$、$f_Y(y)$ 与条件密度 $f_{X|Y}(x|y)$。
画图:$G$ 是 $0\le y\le 1,\ y\le x\le 2-y$ 的三角形,面积 $S_G=1$,故 $f(x,y)=1$(在 $G$ 内),其余为 $0$。
求 $f_X$ 时对 $y$ 积分:$0\lt x\lt 1$ 时 $y$ 从 $0$ 到 $x$,得 $f_X(x)=x$;$1\le x\lt 2$ 时 $y$ 从 $0$ 到 $2-x$,得 $f_X(x)=2-x$;其余为 $0$。
求 $f_Y$ 时对 $x$ 积分:$0\lt y\lt 1$ 时 $x$ 从 $y$ 到 $2-y$,得 $f_Y(y)=2-2y$;其余为 $0$。
条件密度:$f_{X|Y}(x|y)=\dfrac{1}{2-2y}$,$y\le x\le 2-y$($0\lt y\lt 1$),其余为 $0$。检查:这段长度是 $2-2y$,乘上密度恰好为 $1$。
由条件密度反推联合密度
题型已知边缘密度 + 条件密度,拼出联合密度再求概率
识别特征:题目只给「$X$ 的密度」和「在 $X=x$ 下 $Y$ 的密度」,要求联合密度、$Y$ 的边缘密度,或某个二维事件的概率。这类题的关键是乘法公式 $f(x,y)=f_X(x)f_{Y|X}(y|x)$,以及把两个定义域合并成一个二维区域。
- 写出 $f_X(x)$ 与 $f_{Y|X}(y|x)$,两者相乘得 $f(x,y)$,并注明联合定义域是两个条件同时成立的范围。
- 求 $f_Y(y)$ 时对 $x$ 积分;积分上下限由联合定义域「竖着切一刀」得到。
- 求概率 $P\{(X,Y)\in G\}$ 时,把 $G$ 与正概率区域求交集,按交集的内外边界定限。
- 积分结果用 $1$ 检查:若 $f_Y$ 积分为 $1$,多半没算错。
$X$ 在 $(0,1)$ 上服从均匀分布,在 $X=x\ (0\lt x\lt 1)$ 的条件下 $Y$ 在 $(0,x)$ 上服从均匀分布。求:(1) $(X,Y)$ 的密度;(2) $f_Y(y)$;(3) $P\{X+Y\gt 1\}$。
(1) $f_X(x)=1\ (0\lt x\lt 1)$;$f_{Y|X}(y|x)=\dfrac{1}{x}\ (0\lt y\lt x\lt 1)$,故 $f(x,y)=\dfrac{1}{x}$,$0\lt y\lt x\lt 1$,其余为 $0$。
(2) 固定 $y\in(0,1)$ 时 $x$ 从 $y$ 到 $1$:$f_Y(y)=\int_{y}^{1}\dfrac{1}{x}\,\mathrm{d}x=-\ln y$,$0\lt y\lt 1$;其余为 $0$。
(3) 区域 $0\lt y\lt x\lt 1$ 与 $x+y\gt 1$ 的交集是 $y\gt 1-x,\ y\lt x$,即 $\frac{1}{2}\lt x\lt 1$,$1-x\lt y\lt x$: $$P\{X+Y\gt 1\}=\int_{1/2}^{1}\mathrm{d}x\int_{1-x}^{x}\frac{1}{x}\,\mathrm{d}y=\int_{1/2}^{1}\left(2-\frac{1}{x}\right)\mathrm{d}x=1-\ln 2.$$
① 乘法公式只在 $f_X(x)\gt 0$ 时成立,最后要把 $f_X(x)=0$ 的部分补进「其他」分支,否则密度不完整。② 由 $f(x,y)=f_X(x)f_{Y|X}(y|x)$ 得到的联合密度,两段定义域要同时满足(这里是 $0\lt x\lt 1$ 与 $0\lt y\lt x$,合并成 $0\lt y\lt x\lt 1$),漏掉一个就积分错。③ 条件密度里出现的 $x$ 在联合密度里是变量还是参数,要分清楚。
判定独立性
题型判独立,或由「事件独立」反解参数
识别特征:题目给出联合分布表或联合密度(常带字母参数),问 $X,Y$ 是否独立,或已知某两个事件独立反过来求参数。注意「事件独立」与「变量独立」是两件事,前者只涉及两个特定事件。
- 先求边缘:离散型横加竖加,连续型积分;顺便用归一性把参数解出一个方程。
- 再算 $p_{i\cdot}p_{\cdot j}$(或 $f_X(x)f_Y(y)$),与联合的对应项比较:全部相等才独立,找到一个不等就写「不独立」。
- 若题设给的是事件独立,用 $P(AB)=P(A)P(B)$ 列出关于参数的第二个方程,与归一性方程联立求解。
- 要说明「不独立」时给出反例点 $(x_0,y_0)$;要说明「独立」时按定义验证对所有 $x,y$(或所有 $i,j$)成立。
$(X,Y)$ 的分布律如下表,已知事件 $\{X=0\}$ 与 $\{X+Y=1\}$ 相互独立,求 $a,b$。
| $X\backslash Y$ | 0 | 1 |
|---|---|---|
| 0 | 0.4 | $a$ |
| 1 | $b$ | 0.1 |
归一性:$a+b+0.5=1$,即 $a+b=0.5$。
又 $P\{X=0\}=0.4+a$,$P\{X+Y=1\}=p_{01}+p_{10}=a+b$,且 $\{X=0\}\cap\{X+Y=1\}=\{X=0,Y=1\}$,其概率为 $a$。由独立得 $a=(0.4+a)(a+b)=0.5(0.4+a)$,解得 $a=0.4$,$b=0.1$。
设 $X$ 的密度为 $f(x)=\dfrac{1}{2}\mathrm{e}^{-|x|}$,$x\in(-\infty,+\infty)$,证明 $X$ 与 $|X|$ 不独立。
取 $x_0=1$。由对称性 $P\{X\le 1\}=1-\dfrac{1}{2\mathrm{e}}$,且 $P\{|X|\le 1\}=1-\mathrm{e}^{-1}$。又 $\{|X|\le 1\}\subset\{X\le 1\}$,所以 $P\{X\le 1,|X|\le 1\}=P\{|X|\le 1\}=1-\mathrm{e}^{-1}$,而 $P\{X\le 1\}P\{|X|\le 1\}=\left(1-\dfrac{1}{2\mathrm{e}}\right)(1-\mathrm{e}^{-1})$,二者不等。故 $X$ 与 $|X|$ 不独立。
求随机变量函数的分布
题型求 $Z=g(X,Y)$ 的分布:和、商、max、min
识别特征:已知 $(X,Y)$ 的分布,要求 $Z=X+Y$、$Z=X/Y$、$Z=XY$、$Z=\max\{X,Y\}$ 等的分布。先分清类型再选工具:纯离散型枚举;连续型用分布函数法或公式;一个是离散型、另一个是连续型则对离散变量的取值作全集分解。
- 定类型。离散 + 离散:列出 $Z$ 的所有取值,把概率相加;连续 + 连续:用分布函数法或公式;离散 + 连续:按离散变量的取值全集分解,再用全概率公式。
- 连续型的通用做法(分布函数法)。先写 $F_Z(z)=P\{g(X,Y)\le z\}$,画出正概率区域与 $g(x,y)\le z$ 的交集,对 $z$ 分区间积分,最后 $f_Z(z)=F_Z'(z)$。这种方法不怕 $g$ 复杂,是保底手段。
- 独立时的卷积公式。和的密度 $$f_Z(z)=\int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\,\mathrm{d}x=\int_{-\infty}^{+\infty}f_X(z-y)f_Y(y)\,\mathrm{d}y;$$ 商的密度 $$f_Z(z)=\int_{-\infty}^{+\infty}|y|\,f_X(yz)f_Y(y)\,\mathrm{d}y.$$
- 定限口诀。先「换字母」,把 $y=z-x$ 代进去写成 $f_X(x)f_Y(z-x)$;再「换区域」,由 $f_X,f_Y$ 各自的非零范围解出 $x$ 的上下限;最后「算积分」。全过程先定限、再积分。
- max / min 用分布函数法。$F_{\max}(z)=P\{X\le z,Y\le z\}=F(z,z)$。而 $F_{\min}(z)=P\{X\le z\}+P\{Y\le z\}-P\{X\le z,Y\le z\}$,化简即 $F_{\min}(z)=F_X(z)+F_Y(z)-F(z,z)$。独立时分别化为 $F_X(z)F_Y(z)$ 与 $1-[1-F_X(z)][1-F_Y(z)]$。
$X,Y$ 相互独立,$f_X(x)=\mathrm{e}^{-x}\ (x\gt 0)$,$f_Y(y)=2y\ (0\lt y\lt 1)$,其余为 $0$。求 $Z=X+Y$ 的密度。
用卷积公式:$f_Z(z)=\int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\,\mathrm{d}x$,被积函数非零要求 $x\gt 0$ 且 $0\lt z-x\lt 1$,即 $\max(0,z-1)\lt x\lt z$。
当 $0\lt z\lt 1$ 时:$f_Z(z)=\int_{0}^{z}2(z-x)\mathrm{e}^{-x}\,\mathrm{d}x=2z-2+2\mathrm{e}^{-z}$。
当 $z\ge 1$ 时:$f_Z(z)=\int_{z-1}^{z}2(z-x)\mathrm{e}^{-x}\,\mathrm{d}x=2\mathrm{e}^{-z}$。
当 $z\le 0$ 时 $f_Z(z)=0$。检查:在 $z=1$ 处两段都给出 $2\mathrm{e}^{-1}$,密度连续。
$X,Y$ 相互独立,都在 $[a,b]$ 上服从均匀分布,求 $Z=\max\{X,Y\}$ 的密度。
$Z$ 的取值落在 $[a,b]$。$a\le z\le b$ 时 $F_Z(z)=P\{X\le z,Y\le z\}=\left(\dfrac{z-a}{b-a}\right)^{2}$,求导得 $f_Z(z)=\dfrac{2(z-a)}{(b-a)^{2}}$;其余为 $0$。
用通式验证也一样:$F_{\max}(z)=[F(z)]^{2}$,故 $f_{\max}(z)=2F(z)f(z)$,与上一致。若改成 $Z=\min\{X,Y\}$,则 $f_Z(z)=\dfrac{2(b-z)}{(b-a)^{2}}$。
- $X\sim B(n,p)$,$Y\sim B(m,p)$ $\Rightarrow$ $X+Y\sim B(n+m,p)$(必须 $p$ 相同)。
- $X\sim P(\lambda_1)$,$Y\sim P(\lambda_2)$ $\Rightarrow$ $X+Y\sim P(\lambda_1+\lambda_2)$(强度相加)。
- $X\sim N(\mu_1,\sigma_1^{2})$,$Y\sim N(\mu_2,\sigma_2^{2})$ $\Rightarrow$ $X+Y\sim N(\mu_1+\mu_2,\ \sigma_1^{2}+\sigma_2^{2})$。
$X\sim N(0,1)$,$Y$ 取离散值:$P\{Y=0\}=P\{Y=1\}=\dfrac{1}{2}$,$X$ 与 $Y$ 独立。求 $Z=XY$ 的分布函数及其间断点。
对 $Y$ 的两个取值作全集分解:$F_Z(z)=P\{XY\le z\mid Y=0\}P\{Y=0\}+P\{XY\le z\mid Y=1\}P\{Y=1\}$。$Y=0$ 时 $XY=0$,故 $P\{XY\le z\mid Y=0\}$ 在 $z\ge 0$ 时为 $1$、$z\lt 0$ 时为 $0$;$Y=1$ 时 $XY=X$,对应概率 $\Phi(z)$。
于是 $z\lt 0$ 时 $F_Z(z)=\dfrac{1}{2}\Phi(z)$;$z\ge 0$ 时 $F_Z(z)=\dfrac{1}{2}\left[1+\Phi(z)\right]$。在 $z=0$ 处有跃度 $\dfrac{1}{2}$,故 $z=0$ 是唯一间断点($Z$ 是混合型)。
结论速查与易错清单
结论速查- 联合 → 边缘
- $F_X(x)=F(x,+\infty)$,$f_X(x)=\int_{-\infty}^{+\infty}f(x,y)\,\mathrm{d}y$
- 条件
- $f_{Y|X}(y|x)=\dfrac{f(x,y)}{f_X(x)}$,$P\{X=x_i\mid Y=y_j\}=\dfrac{p_{ij}}{p_{\cdot j}}$
- 独立
- $F(x,y)=F_X(x)F_Y(y)$;离散 $p_{ij}=p_{i\cdot}p_{\cdot j}$;连续 $f=f_Xf_Y$
- 矩形概率
- $F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)$
- 二维均匀
- $f=\dfrac{1}{S_D}$(在 $D$ 内),概率 = 面积比
- 二维正态
- $(X,Y)\sim N(\mu_1,\mu_2;\sigma_1^{2},\sigma_2^{2};\rho)$,边缘正态,$\rho=0\iff$ 独立
- 和的密度
- $f_Z(z)=\int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\,\mathrm{d}x$(独立)
- 商的密度
- $f_Z(z)=\int_{-\infty}^{+\infty}|y|f_X(yz)f_Y(y)\,\mathrm{d}y$(独立)
- max / min
- $F_{\max}(z)=F_X(z)F_Y(z)$,$F_{\min}(z)=1-[1-F_X(z)][1-F_Y(z)]$(独立)
- n 个同分布
- $F_{\max}=[F(x)]^{n}$,$f_{\max}=n[F(x)]^{n-1}f(x)$;$F_{\min}=1-[1-F(x)]^{n}$
① 边缘与条件的分母搞反:$P\{X=x_i\mid Y=y_j\}$ 除的是 $p_{\cdot j}$,不是 $p_{i\cdot}$。② 定限不画图:连续型求边缘密度、求 $P\{(X,Y)\in G\}$ 都必须先画出正概率区域,否则上下限一定错。③ 把「联合密度可以拆成两个函数之积」直接当成独立:必须拆成的两个因子恰是 $f_X(x)$ 与 $f_Y(y)$ 本身(含常数因子也要对),仅形式上可分离还不够。④ 求 $Z=\max\{X,Y\}$、$Z=\min\{X,Y\}$ 时用卷积公式:这是分布函数法的题,必须走 $F_Z(z)$。⑤ 把 $f(x,y)=f_X(x)f_{Y|X}(y|x)$ 当成独立条件:这个乘法公式对任何二维连续型都成立,与独立无关;独立的判据是 $f(x,y)=f_X(x)f_Y(y)$。
随机变量的数字特征
分布函数看全局,数字特征只看几个关键量:期望定位置、方差量波动、协方差与相关系数测关系。
数学期望:加权平均与函数的期望
知识点离散型:设 $X$ 的分布律为 $p_i=P\{X=x_i\}\ (i=1,2,\cdots)$,若 $\sum_{i=1}^{\infty}x_ip_i$ 绝对收敛,则称 $X$ 的数学期望存在,且
$$EX=\sum_{i=1}^{\infty}x_ip_i.$$
连续型:设 $X$ 的概率密度为 $f(x)$,若 $\int_{-\infty}^{+\infty}xf(x)\,\mathrm{d}x$ 绝对收敛,则
$$EX=\int_{-\infty}^{+\infty}xf(x)\,\mathrm{d}x.$$
否则称 $X$ 的数学期望不存在。
数学期望又叫概率平均值,它刻画随机变量取值的集中位置。定义里「绝对收敛」四个字不是摆设:柯西分布的密度 $\dfrac{1}{\pi(1+x^{2})}$,积分 $\int_{-\infty}^{+\infty}\dfrac{x}{\pi(1+x^{2})}\mathrm{d}x$ 发散,所以它的期望不存在,不能因为被积函数是奇函数就写成 $0$。
随机变量函数的期望:不用先求 $g(X)$ 的分布
若 $Y=g(X)$,$g$ 连续,则不必先求 $Y$ 的分布,直接把 $g(x)$ 乘进原来的分布里:
离散型:$E[g(X)]=\sum_{i}g(x_i)p_i$;连续型:$E[g(X)]=\int_{-\infty}^{+\infty}g(x)f(x)\,\mathrm{d}x$。前提同样是级数或积分绝对收敛。这条性质是一切「求 $E(X^{2})$、$E(\mathrm{e}^{X})$、$E(|X|)$」题的总开关。
- ① $Ea=a$($a$ 为常数);$E(EX)=EX$,即期望是常数,可以提出来。
- ② 线性性:$E(aX+bY)=aEX+bEY$,更一般地 $E\left(\sum_{i=1}^{n}a_iX_i\right)=\sum_{i=1}^{n}a_iEX_i$。这一条无条件成立,不需要独立。
- ③ 乘积性:只有 $X,Y$ 相互独立时才有 $E(XY)=EX\cdot EY$。
- ④ 若 $X,Y$ 独立、$g,h$ 连续,则 $E[g(X)h(Y)]=E[g(X)]\cdot E[h(Y)]$。
① $E(XY)=E(X)E(Y)$ 不是无条件成立的,只有独立时才必然相等。反过来要分清:不相关($\rho_{XY}=0$,即 $\mathrm{Cov}(X,Y)=0$)恰好等价于 $E(XY)=EX\cdot EY$,但它不等于独立。② 期望存在要求绝对收敛,别看到奇函数积分为 $0$ 就说期望是 $0$。③ $E(X^{2})\neq (EX)^{2}$,两者差一个方差,这是第 2 个必错点。
方差:偏离程度的度量
知识点设 $X$ 是随机变量,若 $E[(X-EX)^{2}]$ 存在,则称它为 $X$ 的方差,记作 $DX$,即
$$DX=E[(X-EX)^{2}]=E(X^{2})-(EX)^{2}.$$
称 $\sqrt{DX}$ 为 $X$ 的标准差(或均方差),记作 $\sigma(X)$;称 $X^{*}=\dfrac{X-EX}{\sqrt{DX}}$ 为 $X$ 的标准化随机变量,此时 $EX^{*}=0,\ DX^{*}=1$。
方差的第二个等号是计算时唯一好用的形式:平方的期望减去期望的平方。用它算方差只需两个数——$EX$ 与 $E(X^{2})$,不必回到 $E[(X-EX)^{2}]$ 展开。
- ① $DX\ge 0$;且 $E(X^{2})=DX+(EX)^{2}\ge (EX)^{2}$。
- ② $Dc=0$($c$ 为常数);反过来 $DX=0$ 等价于 $X$ 几乎处处等于某个常数 $a$,即 $P\{X=a\}=1$。
- ③ $D(aX+b)=a^{2}DX$。注意是 $a^{2}$,$b$ 完全不影响波动。
- ④ $D(X\pm Y)=DX+DY\pm 2\mathrm{Cov}(X,Y)$。
- ⑤ 若 $X,Y$ 独立:$D(aX+bY)=a^{2}DX+b^{2}DY$,且 $D(XY)=DXDY+DX(EY)^{2}+DY(EX)^{2}\ge DXDY$。
- ⑥ 一般地若 $X_1,\cdots,X_n$ 相互独立,$g_i$ 连续,则 $D\left(\sum_{i=1}^{n}a_iX_i\right)=\sum_{i=1}^{n}a_i^{2}DX_i$,$D\left[\sum_{i=1}^{n}g_i(X_i)\right]=\sum_{i=1}^{n}D[g_i(X_i)]$。
- ⑦ 对任意常数 $c$,$DX=E[(X-EX)^{2}]\le E[(X-c)^{2}]$,等号在 $c=EX$ 处成立(期望是使平方误差最小的中心)。
① $D(X+Y)=DX+DY+2\mathrm{Cov}(X,Y)$,别漏协方差项;只有独立时才能写成 $DX+DY$。② $D(aX+b)=a^{2}DX$,不是 $aDX$;$D(X+c)=DX$,常数平移不改变方差。③ $D(XY)=DXDY$ 只在 $X,Y$ 独立且 $EX=EY=0$ 时才成立,通用式是 $DXDY+DX(EY)^{2}+DY(EX)^{2}$,独立时它一定 $\ge DXDY$。
常用分布的期望与方差
结论速查这张表必须默写。考场上的多数小题,第一步就是把分布认出来,直接从表里取 $EX, DX$。
| 分布 | 分布律或概率密度 | 数学期望 | 方差 |
|---|---|---|---|
| 0-1 分布 | $P\{X=k\}=p^{k}(1-p)^{1-k},\ k=0,1$ | $p$ | $p(1-p)$ |
| 二项分布 $B(n,p)$ | $P\{X=k\}=\mathrm{C}_n^kp^{k}(1-p)^{n-k},\ k=0,1,\cdots,n$ | $np$ | $np(1-p)$ |
| 泊松分布 $P(\lambda)$ | $P\{X=k\}=\dfrac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda},\ k=0,1,\cdots$ | $\lambda$ | $\lambda$ |
| 几何分布 $G(p)$ | $P\{X=k\}=(1-p)^{k-1}p,\ k=1,2,\cdots$ | $\dfrac{1}{p}$ | $\dfrac{1-p}{p^{2}}$ |
| 正态分布 $N(\mu,\sigma^{2})$ | $f(x)=\dfrac{1}{\sqrt{2\pi}\sigma}\exp\left\{-\dfrac{(x-\mu)^{2}}{2\sigma^{2}}\right\},\ -\infty\lt x\lt +\infty$ | $\mu$ | $\sigma^{2}$ |
| 均匀分布 $U(a,b)$ | $f(x)=\dfrac{1}{b-a},\ a\lt x\lt b$ | $\dfrac{a+b}{2}$ | $\dfrac{(b-a)^{2}}{12}$ |
| 指数分布 $E(\lambda)$ | $f(x)=\lambda\mathrm{e}^{-\lambda x},\ x\gt 0$ | $\dfrac{1}{\lambda}$ | $\dfrac{1}{\lambda^{2}}$ |
- 泊松期望与方差相等,都是 $\lambda$——这是识别泊松题的最快信号(题目给 $EX=DX$ 往往就是暗示 $\lambda=EX$)。
- 指数分布也是期望与方差有关系:$DX=(EX)^{2}$,标准差等于期望。
- 正态的第二个参数是方差 $\sigma^{2}$,不是标准差;标准化时除以 $\sigma$。
- 二项可拆成 $n$ 个独立 0-1 变量之和,$EX=np$、$DX=np(1-p)$ 都由此推来,不必强记。
① 泊松与指数分布混淆:泊松是离散计数、参数 $\lambda$ 兼作期望与方差;指数是连续等待时间、期望 $1/\lambda$、方差 $1/\lambda^{2}$。② 几何分布的期望是 $1/p$,不是 $p$。③ 表中只列出概率密度的非零区域,写答案时记得补「其他为 $0$」。
协方差、相关系数与矩
知识点若 $DX\gt 0,\ DY\gt 0$,称 $E[(X-EX)(Y-EY)]$ 为 $X$ 与 $Y$ 的协方差,记作 $\mathrm{Cov}(X,Y)$,即
$$\mathrm{Cov}(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-EX\cdot EY.$$
称 $\rho_{XY}=\dfrac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}$ 为 $X$ 与 $Y$ 的相关系数。若 $\rho_{XY}=0$,称 $X$ 与 $Y$ 不相关;若 $\rho_{XY}\neq 0$,称 $X$ 与 $Y$ 相关。
协方差里的 $E(XY)$ 要按类型算:离散型是 $\sum_i\sum_jx_iy_jP\{X=x_i,Y=y_j\}$,连续型是 $\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xyf(x,y)\,\mathrm{d}x\mathrm{d}y$。所以求 $\mathrm{Cov}$ 的顺序永远是:先 $EX$、$EY$,再 $E(XY)$。
相关系数的本质是标准化变量的协方差:若 $X^{*}=\dfrac{X-EX}{\sqrt{DX}}$、$Y^{*}=\dfrac{Y-EY}{\sqrt{DY}}$,则
$$\mathrm{Cov}(X^{*},Y^{*})=\frac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}=\rho_{XY}.$$
标准化把量纲与波动都除掉,剩下的就是「线性相关的方向与强度」。
协方差与相关系数的性质
- ① $\mathrm{Cov}(X,Y)=\mathrm{Cov}(Y,X)$;$\mathrm{Cov}(X,X)=DX$。
- ② $\mathrm{Cov}(aX,bY)=ab\,\mathrm{Cov}(X,Y)$;$\mathrm{Cov}(X+c,Y)=\mathrm{Cov}(X,Y)$,常数平移不影响协方差。
- ③ $\mathrm{Cov}(X_1+X_2,Y)=\mathrm{Cov}(X_1,Y)+\mathrm{Cov}(X_2,Y)$。
- ④ $|\rho_{XY}|\le 1$。
- ⑤ $\rho_{XY}=1\iff P\{Y=aX+b\}=1\ (a\gt 0)$;$\rho_{XY}=-1\iff P\{Y=aX+b\}=1\ (a\lt 0)$。即 $\rho=\pm1$ 表示严格线性关系,$\rho$ 的符号就是斜率的符号。
设 $(X,Y)$ 是二维随机变量。若相应期望存在,则称
- $E(X^{k})\ (k=1,2,\cdots)$ 为 $X$ 的 $k$ 阶原点矩;
- $E[(X-EX)^{k}]\ (k=2,3,\cdots)$ 为 $X$ 的 $k$ 阶中心矩;
- $E(X^{k}Y^{l})\ (k,l=1,2,\cdots)$ 为 $X$ 与 $Y$ 的 $k+l$ 阶混合原点矩;
- $E[(X-EX)^{k}(Y-EY)^{l}]\ (k,l=1,2,\cdots)$ 为 $k+l$ 阶混合中心矩。
于是:$EX$ 是一阶原点矩,$DX$ 是二阶中心矩,$\mathrm{Cov}(X,Y)$ 是 $X$ 与 $Y$ 的二阶混合中心矩,$E(XY)$ 是二阶混合原点矩。
① $\mathrm{Cov}(X,Y)$ 有量纲、受波动大小影响,$\rho_{XY}$ 无纲、恒在 $[-1,1]$ 内。② $\rho=0$ 只说明没有线性关系,不代表没有关系:$X\sim U(-1,1)$、$Y=\cos X$ 时 $EX=0$、$E(XY)=0$,$\rho=0$,但 $X,Y$ 有确定的函数关系。③ $DX\gt 0,DY\gt 0$ 是定义 $\rho$ 的前提,方差为 $0$ 的变量谈不上相关系数。
求数学期望与方差
题型由分布求 $EX$、$DX$,或求 $E[g(X)]$
识别特征:给出分布律或概率密度,要求 $EX$、$DX$、$E[g(X)]$、$D[g(X)]$,或求某个含 $X$ 的量的期望。题目常带分段密度、绝对值、指数函数等,需要先分段再积分。
- 先认类型(离散/连续)。离散型列 $x_i$ 与 $p_i$ 求 $EX=\sum x_ip_i$;连续型写 $EX=\int xf(x)\mathrm{d}x$,注意积分区间就是密度的非零区间。
- 再算 $E(X^{2})=\sum x_i^{2}p_i$ 或 $\int x^{2}f(x)\mathrm{d}x$。
- 用 $DX=E(X^{2})-(EX)^{2}$ 得方差;要求 $E[g(X)]$ 时把 $g(x)$ 乘进密度(或分布律)再积分,不必先求 $g(X)$ 的分布。
- 检验:$DX\ge 0$;若算出负值,说明 $E(X^{2})$ 与 $EX$ 有一个算错。
设 $X$ 的概率密度为 $f(x)=\dfrac{1}{2}\cos\dfrac{x}{2}$($0\le x\lt\pi$),其余为 $0$。对 $X$ 独立观察 4 次,用 $Y$ 表示观察值大于 $\dfrac{\pi}{3}$ 的次数,求 $E(Y^{2})$。
先算单次概率:$P\left\{X\gt \dfrac{\pi}{3}\right\}=\int_{\pi/3}^{\pi}\dfrac{1}{2}\cos\dfrac{x}{2}\,\mathrm{d}x=\left[\sin\dfrac{x}{2}\right]_{\pi/3}^{\pi}=1-\dfrac{1}{2}=\dfrac{1}{2}$。
于是 $Y\sim B\left(4,\dfrac{1}{2}\right)$,$EY=4\times\dfrac{1}{2}=2$,$DY=4\times\dfrac{1}{2}\times\dfrac{1}{2}=1$。
$E(Y^{2})=DY+(EY)^{2}=1+4=5$。这里用到 $E(Y^{2})=DY+(EY)^{2}$,比直接算 $\sum k^{2}p_k$ 快得多。
设连续型随机变量 $X$ 的概率密度为 $f(x)=\dfrac{1}{\pi(1+x^{2})}\ (-\infty\lt x\lt +\infty)$,则 $EX$ 等于多少?
按定义 $\int_{-\infty}^{+\infty}\dfrac{x}{\pi(1+x^{2})}\mathrm{d}x=\dfrac{1}{2\pi}\ln(1+x^{2})\Big|_{-\infty}^{+\infty}$,该积分发散(不是绝对收敛)。虽然被积函数是奇函数、按主值积分可凑出 $0$,但期望的定义要求绝对收敛,故 $EX$ 不存在。这是「期望不存在」的标准反例。
识别分布、反求参数与数字特征
题型把密度凑成标准形式,读出参数再算数字特征
识别特征:题目给的密度长得「像」某个常见分布但不标准——指数上带二次项、常数因子不是标准写法、分布列里混着 $k!$ 等。要求 $EX$、$DX$、$E(X^{2})$ 或 $P\{\cdots\}$。这类题不用积分,把式子凑成标准形式,直接读参数。
- 先看归一性:把密度写成 $C\cdot\exp\{\cdots\}$,用 $\int f=1$ 定常数,同时也顺手验证了「这是哪个分布」。
- 对正态型:配方成 $-\dfrac{(x-\mu)^{2}}{2\sigma^{2}}$,读出 $\mu$ 与 $\sigma^{2}$,则 $EX=\mu$、$DX=\sigma^{2}$。
- 对泊松型:把分布列凑成 $\dfrac{\lambda^{k}}{k!}\mathrm{e}^{-\lambda}$,用 $\sum_k\dfrac{\lambda^{k}}{k!}=\mathrm{e}^{\lambda}$ 定出 $\lambda$,则 $EX=DX=\lambda$。
- 对 $F(X)$ 型:若 $F(x)$ 严格单调,则 $F(X)\sim U(0,1)$,于是 $P\{F(X)\gt a\}=1-a$,不必解不等式。
设 $X$ 的概率密度为 $f(x)=\dfrac{1}{\sqrt{\pi}}\mathrm{e}^{-x^{2}+2x-1}\ (-\infty\lt x\lt +\infty)$,求 $EX\cdot\sqrt{DX}$。
配方:$-x^{2}+2x-1=-(x-1)^{2}$。与正态密度对照,需写成 $\dfrac{1}{\sqrt{2\pi}\sigma}\exp\left\{-\dfrac{(x-\mu)^{2}}{2\sigma^{2}}\right\}$,令 $\mu=1$、$2\sigma^{2}=1$ 即 $\sigma^{2}=\dfrac{1}{2}$、$\sigma=\dfrac{1}{\sqrt{2}}$。
此时系数恰为 $\dfrac{1}{\sqrt{2\pi}\cdot(1/\sqrt{2})}=\dfrac{1}{\sqrt{\pi}}$,与题给一致。故 $EX=1$,$\sqrt{DX}=\dfrac{1}{\sqrt{2}}$,$EX\cdot\sqrt{DX}=\dfrac{1}{\sqrt{2}}$。
设 $X$ 的密度为 $f(x)=\dfrac{x}{2}\ (0\lt x\lt 2)$,其余为 $0$;$F(x)$ 为 $X$ 的分布函数,$EX$ 为数学期望。求 $P\{F(X)\gt EX-1\}$。
$EX=\int_{0}^{2}\dfrac{x^{2}}{2}\,\mathrm{d}x=\dfrac{4}{3}$,故 $EX-1=\dfrac{1}{3}$。
$F(x)$ 在 $(0,2)$ 上严格单调增加,所以 $F(X)\sim U(0,1)$,于是 $P\left\{F(X)\gt\dfrac{1}{3}\right\}=\dfrac{2}{3}$。
若不用这条结论,就得先求 $F(x)=\dfrac{x^{2}}{4}$,再解 $P\left\{\dfrac{X^{2}}{4}\gt\dfrac{1}{3},\ 0\lt X\lt 2\right\}=P\left\{\dfrac{2}{\sqrt{3}}\lt X\lt 2\right\}=\int_{2/\sqrt{3}}^{2}\dfrac{x}{2}\mathrm{d}x=\dfrac{2}{3}$,两种做法答案一致,但前者快得多。
求协方差与相关系数
题型由联合分布算 $\mathrm{Cov}(X,Y)$ 与 $\rho_{XY}$
识别特征:给出联合分布律或联合密度,要求 $\mathrm{Cov}(X,Y)$、$\rho_{XY}$、$D(X\pm Y)$,或判断相关性。核心永远是那张「三件套」:$EX$、$EY$、$E(XY)$。
- 用边缘分布求 $EX,EY$(离散横加竖加,连续按「求谁不积谁」)。
- 求 $E(XY)$:离散型 $\sum\sum x_iy_jp_{ij}$,连续型 $\int\int xyf(x,y)\mathrm{d}x\mathrm{d}y$。
- $\mathrm{Cov}(X,Y)=E(XY)-EX\cdot EY$;$\rho_{XY}=\dfrac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}$,其中 $DX=E(X^{2})-(EX)^{2}$。
- 若再求 $D(X\pm Y)$,用 $D(X\pm Y)=DX+DY\pm 2\mathrm{Cov}(X,Y)$。
- 对称性检查:若 $f(x,y)$ 关于 $x$ 或 $y$ 为奇函数、积分区域对称,对应的 $EX$ 或 $E(XY)$ 常直接为 $0$。
甲、乙两人在 12:00~13:00 之间随机到达某地,$X,Y$(单位:小时)相互独立,密度分别为 $f_X(x)=3x^{2}\ (0\lt x\lt 1)$、$f_Y(y)=2y\ (0\lt y\lt 1)$。求先到者等待时间的数学期望。
所求为 $E|X-Y|$。联合密度 $f(x,y)=6x^{2}y$($0\lt x\lt 1,\ 0\lt y\lt 1$)。按 $x\gt y$ 与 $x\lt y$ 拆分区域:
$$E|X-Y|=\int_{0}^{1}\mathrm{d}x\int_{0}^{x}(x-y)6x^{2}y\,\mathrm{d}y+\int_{0}^{1}\mathrm{d}y\int_{0}^{y}(y-x)6x^{2}y\,\mathrm{d}x.$$
第一项:$\int_{0}^{x}(x-y)y\,\mathrm{d}y=\dfrac{x^{3}}{6}$,故第一项 $=\int_{0}^{1}x^{5}\mathrm{d}x=\dfrac{1}{6}$;第二项 $=\int_{0}^{1}\dfrac{y^{5}}{2}\mathrm{d}y=\dfrac{1}{12}$。
所以 $E|X-Y|=\dfrac{1}{6}+\dfrac{1}{12}=\dfrac{1}{4}$(小时),即约 15 分钟。含绝对值的期望一定要按符号拆分区域,直接积 $\int\int(x-y)f$ 会因正负抵消而得错。
$(X,Y)$ 服从二维正态,$EX=EY=2$,$DX=1$,$DY=4$,$\rho_{XY}=0.5$。求 $D(X-Y)$。
$\mathrm{Cov}(X,Y)=\rho_{XY}\sqrt{DX}\sqrt{DY}=0.5\times 1\times 2=1$。
$D(X-Y)=DX+DY-2\mathrm{Cov}(X,Y)=1+4-2=3$。若误用「独立时 $DX+DY$」会得到 $5$,这正是漏协方差项的典型后果。
独立与不相关的判定
题型先算 $\mathrm{Cov}$ 判相关,再用分布判独立
识别特征:题目问「是否独立/是否相关」,或给出「$X,Y$ 独立」与「$\rho=0$」两类条件让判断另一个,或由某函数关系反推 $\rho$。必须区分两个判据:独立性看分布,相关性看数字特征。
- 先算 $\mathrm{Cov}(X,Y)=E(XY)-EX\cdot EY$。若 $\neq 0$,则 $X,Y$ 相关,从而一定不独立,可以停手。
- 若 $=0$,只能说不相关;是否独立要再看分布:离散型比 $p_{ij}$ 与 $p_{i\cdot}p_{\cdot j}$,连续型比 $f(x,y)$ 与 $f_X(x)f_Y(y)$。
- 若题目限定 $(X,Y)$ 服从二维正态,则 $\rho=0$ 与独立等价,第二步可省。
- 反过来的推理:若 $X,Y$ 独立 $\Rightarrow$ 不相关($\mathrm{Cov}=0$),这条永远成立;若不相关 $\Rightarrow$ 独立,一般不成立。
$X,Y$ 的分布分别为 $P\{X=0\}=\dfrac{1}{3},P\{X=1\}=\dfrac{2}{3}$;$P\{Y=-1\}=P\{Y=0\}=P\{Y=1\}=\dfrac{1}{3}$,且 $P\{X^{2}=Y^{2}\}=1$。求 $(X,Y)$ 的分布、$Z=XY$ 的分布与 $\rho_{XY}$。
由 $P\{X^{2}=Y^{2}\}=1$,联合分布只能落在 $X=0,Y=0$ 与 $X=1,Y=\pm1$ 上:$p_{00}=\dfrac{1}{3}$,$p_{1,-1}=\dfrac{1}{3}$,$p_{1,1}=\dfrac{1}{3}$,其余为 $0$。
故 $EX=0\times\dfrac{1}{3}+1\times\dfrac{2}{3}=\dfrac{2}{3}$,$EY=0$,$E(XY)=1\times(-1)\times\dfrac{1}{3}+1\times1\times\dfrac{1}{3}=0$,得 $\mathrm{Cov}(X,Y)=0$,$\rho_{XY}=0$。
$Z=XY$ 只取 $-1,0,1$:$P\{Z=-1\}=P\{X=1,Y=-1\}=\dfrac{1}{3}$,$P\{Z=0\}=P\{X=0,Y=0\}=\dfrac{1}{3}$,$P\{Z=1\}=P\{X=1,Y=1\}=\dfrac{1}{3}$。
但 $X$ 与 $Y$ 显然不独立:已知 $X=1$ 时 $Y$ 只能取 $\pm1$,$P\{Y=0\mid X=1\}=0\neq P\{Y=0\}$。这说明不相关推不出独立。
设 $(X,Y)$ 服从二维正态分布,判断 $U=X+Y$ 与 $V=X-Y$ 不相关的充要条件。
$\mathrm{Cov}(U,V)=E(UV)-EU\cdot EV$,其中 $E(UV)=E(X^{2})-E(Y^{2})$,而 $EU\cdot EV=(EX+EY)(EX-EY)=(EX)^{2}-(EY)^{2}$,两式相减得 $\mathrm{Cov}(U,V)=E(X^{2})-(EX)^{2}-\left[E(Y^{2})-(EY)^{2}\right]$,即 $\mathrm{Cov}(U,V)=DX-DY$。
故 $U,V$ 不相关 $\iff DX=DY$,即 $E(X^{2})-(EX)^{2}=E(Y^{2})-(EY)^{2}$。这里 $U,V$ 都服从正态,所以「不相关」也就等于「独立」。
设 $X$ 的密度为 $f(x)=\dfrac{1}{2}\mathrm{e}^{-|x|}$,判断 $X$ 与 $|X|$ 的相关性与独立性。
由对称性 $EX=0$,且 $E(X|X|)=\int_{-\infty}^{+\infty}x|x|\cdot\dfrac{1}{2}\mathrm{e}^{-|x|}\mathrm{d}x=0$(奇函数),故 $\mathrm{Cov}(X,|X|)=0$,$X$ 与 $|X|$ 不相关。
但由 3.7 的反例,$X$ 与 $|X|$ 不独立。不相关且不独立——这正是考试最喜欢出的组合,选项里常配成「不相关且独立」「相关且独立」来干扰。
- ① $X,Y$ 独立 $\Rightarrow$ $X,Y$ 不相关;反之不然。
- ② 若 $(X,Y)$ 服从二维正态,则 $X,Y$ 独立 $\iff$ $X,Y$ 不相关($\rho=0$)。
- ③ 由 ① 逆否:若 $X,Y$ 相关,则 $X,Y$ 一定不独立。
切比雪夫不等式与速查清单
结论速查若 $EX$ 与 $DX$ 存在,则对任意 $\varepsilon\gt 0$ 有
$$P\{|X-EX|\ge\varepsilon\}\le\frac{DX}{\varepsilon^{2}},\qquad P\{|X-EX|\lt\varepsilon\}\ge 1-\frac{DX}{\varepsilon^{2}}.$$
用法:已知 $EX, DX$ 估算「落在期望附近」的概率。$DX$ 越小,这个下界越接近 $1$,说明方差确实是刻画「分散程度」的量。这是全课程唯一一个「只靠 $EX, DX$ 就能给出概率界」的工具。
- 期望定义
- $EX=\sum x_ip_i$ 或 $\int xf(x)\mathrm{d}x$(要求绝对收敛)
- 函数的期望
- $E[g(X)]=\sum g(x_i)p_i$ 或 $\int g(x)f(x)\mathrm{d}x$
- 方差
- $DX=E[(X-EX)^{2}]=E(X^{2})-(EX)^{2}$
- 线性性质
- $E(aX+bY)=aEX+bEY$;$D(aX+b)=a^{2}DX$
- 和差方差
- $D(X\pm Y)=DX+DY\pm 2\mathrm{Cov}(X,Y)$
- 独立乘积
- $E(XY)=EX\cdot EY$;$D(aX+bY)=a^{2}DX+b^{2}DY$
- 协方差
- $\mathrm{Cov}(X,Y)=E(XY)-EX\cdot EY$
- 相关系数
- $\rho_{XY}=\dfrac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}$,$|\rho|\le 1$
- $|\rho|=1$
- $Y=aX+b$($a\gt 0$ 时 $\rho=1$,$a\lt 0$ 时 $\rho=-1$)
- 矩
- $EX$ 一阶原点矩;$DX$ 二阶中心矩;$\mathrm{Cov}$ 二阶混合中心矩
- 切比雪夫
- $P\{|X-EX|\ge\varepsilon\}\le DX/\varepsilon^{2}$
① $E(XY)\neq E(X)E(Y)$,只有独立才相等——这是本讲第一号错误。② $D(X+Y)=DX+DY+2\mathrm{Cov}(X,Y)$,漏掉协方差项在「$X,Y$ 不独立」的题里必错。③ 独立必不相关,不相关不一定独立;只有二维正态让两者等价。④ $D(aX+b)=a^{2}DX$,别写成 $aDX$;$DX=0$ 意味着 $X$ 几乎处处是常数,不是「概率为 $0$」。⑤ 求 $D(XY)$ 用通用式 $DXDY+DX(EY)^{2}+DY(EX)^{2}$,不要直接写 $DXDY$。⑥ 含 $|X-Y|$ 的期望必须先按符号拆区域,不能直接积。
大数定律与中心极限定理
大数定律说「平均值会稳定下来」,中心极限定理说「稳定下来之后长得像正态」。
切比雪夫不等式:只有期望和方差时也能估概率
知识点大数定律给的是「收敛」,切比雪夫不等式给的是「收敛得有多快、概率有多大」的定量刻画。它最大的用处在于:只知道期望和方差、完全不知道分布,也能对概率给出上下界。
设随机变量 $X$ 的期望 $E(X)$ 与方差 $D(X)$ 都存在,则对任意 $\varepsilon\gt 0$,有
$$P\{|X-E(X)|\ge \varepsilon\}\le \frac{D(X)}{\varepsilon^{2}},$$等价地,取它的逆事件(这里不等号要换向):
$$P\{|X-E(X)|\lt \varepsilon\}\ge 1-\frac{D(X)}{\varepsilon^{2}}.$$三种典型用法
- 估概率的上界。要算 $P\{|X-E(X)|\ge\varepsilon\}$,但分布不知道,直接写 $\le\frac{D(X)}{\varepsilon^{2}}$ 就收工。题目里凡出现「至少……」「不超过……」这类字眼,多半是它。
- 反解 $\varepsilon$ 或 $D(X)$。题目给了「概率不小于 $0.9$」,把不等式写成 $1-\frac{D(X)}{\varepsilon^{2}}\ge 0.9$,解出 $\varepsilon$ 的下界(或 $D(X)$ 的上界)。
- 证明依概率收敛。这是本讲承上启下的关键一步:若 $D(X_n)\to 0$,则 $P\{|X_n-E(X_n)|\ge\varepsilon\}\le \frac{D(X_n)}{\varepsilon^{2}}\to 0$, 于是 $X_n\xrightarrow{P}E(X_n)$。第 6 讲判断估计量的一致性,用的就是这个套路。
其一,$E(X)$ 与 $D(X)$ 必须都存在,否则不等式无从谈起(例如柯西分布两者都不存在)。其二,$\varepsilon$ 必须严格为正,取 $0$ 就没有意义。其三,左右两边的不等号方向别写反:$|X-E(X)|\ge\varepsilon$ 对应 $\le$,$|X-E(X)|\lt\varepsilon$ 对应 $\ge$,中间差一个 $1-\frac{D(X)}{\varepsilon^{2}}$。
依概率收敛与三个大数定律
知识点三条大数定律的结论其实是同一个句式——「$n$ 个量的平均值依概率收敛到某个东西」,差别只在条件。所以先把这句式的准确含义定下来。
设随机变量 $X$ 与随机变量序列 $\{X_n\}$,若对任意 $\varepsilon\gt 0$,有
$$ \lim_{n\to\infty}P\{|X_n-X|\ge\varepsilon\}=0 \quad\text{或}\quad \lim_{n\to\infty}P\{|X_n-X|\lt \varepsilon\}=1, $$则称 $\{X_n\}$ 依概率收敛于 $X$,记作 $X_n\xrightarrow{P}X$。把 $X$ 换成常数 $a$ 同样成立。直观上就是:当 $n$ 充分大时,$X_n$ 落在 $X$ 附近的概率可以任意接近 $1$。
依概率收敛还带一条很好用的性质:若 $X_n\xrightarrow{P}X$,$g$ 是连续函数,则 $g(X_n)\xrightarrow{P}g(X)$。凡是题目问「$\frac{1}{n}\sum_{i=1}^{n}X_i^{2}$ 依概率收敛到哪个数」,都是先用辛钦把 $\frac{1}{n}\sum X_i^{2}$ 收到 $E(X_1^{2})$,再用这条性质处理函数形式。
三条定律对照
| 定律 | 条件 | 结论 |
|---|---|---|
| 切比雪夫 | $\{X_n\}$ 相互独立;$D(X_i)$ 存在且一致有界(存在常数 $C$,使 $D(X_i)\le C$ 对一切 $i$ 成立) | $\frac{1}{n}\sum_{i=1}^{n}X_i\xrightarrow{P}\frac{1}{n}\sum_{i=1}^{n}E(X_i)$ |
| 伯努利 | $\mu_n$ 是 $n$ 重伯努利试验中事件 $A$ 发生的次数,$P(A)=p$ | $\frac{\mu_n}{n}\xrightarrow{P}p$(频率依概率收敛于概率) |
| 辛钦 | $\{X_n\}$ 独立同分布;$E(X_i)=\mu$ 存在(不要求方差存在) | $\frac{1}{n}\sum_{i=1}^{n}X_i\xrightarrow{P}\mu$ |
- 能确定同分布、但方差未必存在(如指数分布族、只知道期望的正态样本)→ 用辛钦。它的门槛最低:只要独立同分布加期望存在。
- 不确定同分布、但每个方差都抱着一个公共上界 $C$ → 用切比雪夫。注意它不要求同分布,所以结论右边是「期望的平均值」$\frac{1}{n}\sum E(X_i)$,一般不是同一个数。
- 数的是「发生次数」(投硬币正面数、次品数、投中次数)→ 用伯努利,它是 $0$–$1$ 分布下辛钦的特例。
- 要证某个估计量一致(第 6 讲)→ 两条路都行:方差已知就用切比雪夫不等式,独立同分布就用辛钦。
切比雪夫大数定律的结论不能顺手写成「收敛到 $\mu$」。只有当 $X_i$ 同分布时,$\frac{1}{n}\sum E(X_i)$ 才等于同一个 $\mu$,而那已经是辛钦的内容了。另外,「方差有界」是一致有界——存在一个与 $n$ 无关的 $C$,不是「每个方差都有限」。
中心极限定理:为什么最后都是正态
知识点大数定律只回答「平均值趋于哪里」,不回答「它服从什么分布」。中心极限定理补上这一半:无论单个 $X_i$ 原本服从什么分布,独立同分布求和之后一律近似正态。这是把「算不出的分布」换成「查得到的表」的那把钥匙。
定理 4:列维 — 林德伯格定理(独立同分布)
设 $\{X_n\}$ 独立同分布,且 $E(X_i)=\mu$、$D(X_i)=\sigma^{2}\gt 0$ 都存在。则对任意实数 $x$,有
$$ \lim_{n\to\infty}P\left\{\frac{\sum_{i=1}^{n}X_i-n\mu}{\sqrt{n}\,\sigma}\le x\right\}=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{x}e^{-\frac{t^{2}}{2}}\,\mathrm{d}t=\Phi(x). $$也就是说 $n$ 充分大时,$\sum_{i=1}^{n}X_i$ 近似服从 $N(n\mu,\,n\sigma^{2})$,$\bar{X}$ 近似服从 $N\left(\mu,\,\frac{\sigma^{2}}{n}\right)$。由此得到区间概率
$$ P\left\{a\lt \sum_{i=1}^{n}X_i\lt b\right\}\approx\Phi\left(\frac{b-n\mu}{\sqrt{n}\,\sigma}\right)-\Phi\left(\frac{a-n\mu}{\sqrt{n}\,\sigma}\right). $$定理的三个条件「独立、同分布、期望与方差存在」缺一不可。反例很好造:只给相同的期望和方差,不必同分布(A 选项错在此);只给同分布,期望方差未必存在——柯西分布就是同一个分布,但它的期望根本不存在($E|X|=\infty$)。
定理 5:棣莫弗 — 拉普拉斯定理(二项分布)
设 $Y\sim B(n,p)$($0\lt p\lt 1$),则对任意实数 $x$,有
$$ \lim_{n\to\infty}P\left\{\frac{Y-np}{\sqrt{np(1-p)}}\le x\right\}=\Phi(x), $$即 $n$ 充分大时 $Y$ 近似服从 $N\big(np,\,np(1-p)\big)$,从而
$$ P\{a\lt Y\lt b\}\approx\Phi\left(\frac{b-np}{\sqrt{np(1-p)}}\right)-\Phi\left(\frac{a-np}{\sqrt{np(1-p)}}\right). $$它不是新定理,而是定理 4 的推论:把 $Y$ 拆成 $n$ 个独立的 $0$–$1$ 变量之和,$E(X_i)=p$、$D(X_i)=p(1-p)$,代入定理 4 就得到上式。考试中一个常见变形是「$n$ 次独立试验中成功次数 $X_n$」,$p=\frac{1}{2}$ 时标准化结果化为 $\frac{2X_n-n}{\sqrt{n}}$,这一步化简要会写。
二项分布求概率,三种方法分工
| 场合 | 方法 | 近似公式 |
|---|---|---|
| $n\le 10$ | 按定义直接算 | $C_n^{k}p^{k}(1-p)^{n-k}$ |
| $n\gt 10$,$p\lt 0.1$,$\lambda=np$ 适中 | 泊松定理 | $\frac{\lambda^{k}}{k!}e^{-\lambda}$ |
| $n$ 较大,$np\ge 10$ | 中心极限定理 | $\Phi\left(\frac{b-np}{\sqrt{np(1-p)}}\right)-\Phi\left(\frac{a-np}{\sqrt{np(1-p)}}\right)$ |
用中心极限定理时,必须做标准化:$P\{T_n\le b\}\approx\Phi\left(\frac{b-n\mu}{\sqrt{n}\,\sigma}\right)$,而不是 $\Phi(b-n\mu)$,更不是 $\Phi\left(\frac{b}{\sqrt{n}\,\sigma}\right)$。分子减掉的是期望,分母除的是标准差($\sqrt{n}\sigma$,不是 $n\sigma$)。二项分布那一支要减 $np$、除 $\sqrt{np(1-p)}$。
题型 1:用中心极限定理近似计算
题型用中心极限定理近似计算
识别特征:题目出现「$n$ 个独立同分布的随机变量之和(或平均值)」,问某个区间内的概率,或者反过来问「$n$ 至少/至多取多少」。$n$ 通常很大,单个量的分布又算不动。看到「和」字,就要想中心极限定理。
- 设出单个变量。把第 $i$ 个量记作 $X_i$,写出 $E(X_i)$ 与 $D(X_i)$。分布已知就直接查表:二项 $np$、$np(1-p)$;指数 $\frac{1}{\lambda}$、$\frac{1}{\lambda^{2}}$;均匀 $\frac{a+b}{2}$、$\frac{(b-a)^{2}}{12}$。
- 写出和的两个参数。令 $T_n=\sum_{i=1}^{n}X_i$,则 $E(T_n)=n\mu$,$D(T_n)=n\sigma^{2}$,标准差是 $\sqrt{n}\,\sigma$。
- 标准化。这一步绝不能省。令 $Z=\frac{T_n-n\mu}{\sqrt{n}\,\sigma}$,它近似服从 $N(0,1)$;把要求的概率改写成 $P\{Z\le z\}$ 的形状,再用 $\Phi$ 表示。
- 查表或反解。正问题查 $\Phi$ 的数值;反问题把「$\Phi(z_0)=1-\alpha$」换成 $z_0$,解出 $n$,最后按「最多/至少」取整。
生产线把产品装箱,每箱质量是随机变量。假设平均每箱重 $50$ 千克,标准差为 $5$ 千克。用载重 $5$ 吨(即 $5000$ 千克)的汽车承运,问每辆汽车最多装多少箱,才能保证不超载的概率大于 $0.977$?已知 $\Phi(2)=0.977$。
设第 $i$ 箱的质量为 $X_i$(单位:千克),由题意 $X_i$ 独立同分布,$E(X_i)=50$,$\sqrt{D(X_i)}=5$。令 $T_n=\sum_{i=1}^{n}X_i$,则 $E(T_n)=50n$,$\sqrt{D(T_n)}=5\sqrt{n}$。由列维 — 林德伯格定理,$T_n$ 近似服从 $N(50n,\,25n)$,于是不超载的概率为
$$ P\{T_n\le 5000\}\approx\Phi\left(\frac{5000-50n}{5\sqrt{n}}\right)=\Phi\left(\frac{1000-10n}{\sqrt{n}}\right), $$要求它大于 $0.977$。因为 $\Phi$ 单调增加,由 $\Phi(2)=0.977$ 得 $\frac{1000-10n}{\sqrt{n}}\gt 2$,即 $1000-10n\gt 2\sqrt{n}$。令 $t=\sqrt{n}$,化为 $10t^{2}+2t-1000\lt 0$,解得 $t\lt 9.900\ldots$,从而 $n\lt 98.0199$。所以每辆汽车最多装 $98$ 箱,才能保证不超载的概率大于 $0.977$。
题型 2:判定大数定律与依概率收敛
题型判定大数定律与依概率收敛
识别特征:题目给一个随机变量序列,问「下列序列中不服从切比雪夫大数定律的是」「当 $n\to\infty$ 时依概率收敛于什么」,或者给一个统计量问它是否相合。这类题基本不算概率,只考条件核对与数字特征。
- 先看结论的形状。结论写成「$\frac{1}{n}\sum_{i=1}^{n}X_i$ 收敛到 $E\left(\frac{1}{n}\sum X_i\right)$」的,锁定的就是切比雪夫大数定律;结论写成「收敛到某个常数 $\mu$」的,多半是辛钦。
- 逐条核对条件。独立?同分布?方差是否一致有界?期望是否存在?四个问题按顺序问一遍。
- 方差是筛选项的抓手。序列里出现 $nX_n$、$n^{2}X_n$ 这种随 $n$ 长大的系数时,$D(c_nX_n)=c_n^{2}D(X_n)$ 很容易失去上界,选择题的陷阱几乎都埋在这里。
- 最后算收敛值。定律定下来后,值就是 $\mu$,或者用连续函数性质搬过去:$X_n^{2}\xrightarrow{P}E(X_1^{2})$。
设 $X_1,X_2,\dots,X_n,\dots$ 是相互独立的随机变量序列,$X_n$ 服从参数为 $n$($n\ge 1$)的指数分布。下列序列中不服从切比雪夫大数定律的是( )
(A)$X_1,\ \frac{1}{2}X_2,\ \dots,\ \frac{1}{n}X_n,\ \dots$ (B)$X_1,\ X_2,\ \dots,\ X_n,\ \dots$
(C)$X_1,\ 2X_2,\ \dots,\ nX_n,\ \dots$ (D)$X_1,\ 2^{2}X_2,\ \dots,\ n^{2}X_n,\ \dots$
切比雪夫大数定律要的是:相互独立,且方差一致有界。已知 $\{X_n\}$ 独立,参数为 $n$ 的指数分布方差 $D(X_n)=\frac{1}{n^{2}}$。逐项验证:$D\left(\frac{1}{n}X_n\right)=\frac{1}{n^{2}}\cdot\frac{1}{n^{2}}=\frac{1}{n^{4}}\le 1$;$D(nX_n)=n^{2}\cdot\frac{1}{n^{2}}=1\le 1$,故(A)(B)(C)都满足。而 $D(n^{2}X_n)=n^{4}\cdot\frac{1}{n^{2}}=n^{2}$ 随 $n$ 无限增大,找不到与 $n$ 无关的常数 $C$ 使 $D\le C$ 对一切 $n$ 成立,故(D)不满足,选(D)。
本讲结论速查与易错
结论速查- 切比雪夫不等式
- $P\{|X-E(X)|\ge\varepsilon\}\le\frac{D(X)}{\varepsilon^{2}}$,逆事件改 $\ge 1-\frac{D(X)}{\varepsilon^{2}}$
- 切比雪夫大数定律
- 相互独立 + 方差一致有界 $\Rightarrow$ $\frac{1}{n}\sum_{i=1}^{n}X_i\xrightarrow{P}\frac{1}{n}\sum_{i=1}^{n}E(X_i)$
- 伯努利大数定律
- 频率依概率收敛于概率:$\frac{\mu_n}{n}\xrightarrow{P}p$
- 辛钦大数定律
- 独立同分布 + 期望存在 $\Rightarrow$ $\frac{1}{n}\sum_{i=1}^{n}X_i\xrightarrow{P}\mu$
- 列维 — 林德伯格
- $Z=\frac{\sum_{i=1}^{n}X_i-n\mu}{\sqrt{n}\,\sigma}\Rightarrow N(0,1)$
- 棣莫弗 — 拉普拉斯
- $Z=\frac{Y-np}{\sqrt{np(1-p)}}\Rightarrow N(0,1)$,$Y\sim B(n,p)$
- 区间概率
- $P\{a\lt T_n\lt b\}\approx\Phi\left(\frac{b-n\mu}{\sqrt{n}\,\sigma}\right)-\Phi\left(\frac{a-n\mu}{\sqrt{n}\,\sigma}\right)$
这一讲最容易丢分的四处
① 不标准化就查表。最常见的错误是直接把 $T_n$ 当正态、把 $\Phi$ 里写成 $b-n\mu$ 或 $\frac{b}{n\sigma}$。正确写法永远是 $\frac{b-n\mu}{\sqrt{n}\,\sigma}$,分子是「观测值减期望」,分母是「标准差」。
② 三条定律的条件记串。记住一条主线:切比雪夫靠「独立 + 方差有界」(不要同分布),辛钦靠「独立同分布 + 期望存在」(不要方差),伯努利是数频率的。题目给的条件一旦出现「分布不同」就排除辛钦,出现「方差可不存在」就排除切比雪夫。
③ 把一致有界理解成「方差都有限」。两者差很远:$D(X_n)=\frac{1}{n^{2}}$ 是都有限且一致有界,$D(X_n)=n$ 是都有限但没有上界。
④ 反问题忘取整。装车、抽样次数这类题解出来是 $n\lt 98.0199$,答「最多 $98$ 箱」,不能写 $98.0199$ 或 $97$。
求和问概率 → 中心极限定理;求和问趋向 → 大数定律;只给期望方差问概率界 → 切比雪夫不等式。
「只要加起来就正态」——不管原来是什么分布,标准化之后一律 $N(0,1)$。
数理统计
从「样本」这两个字出发:先造统计量,再看它服从什么分布,最后用样本反推未知参数。
总体、样本与统计量
知识点这一讲所有概念的起点是一句话:把「总体」当成一个随机变量 $X$,把「样本」当成 $n$ 个与 $X$ 独立同分布的随机变量。想清楚这一点,后面每个定义都只是它的推论。
研究对象的全体称总体,组成总体的每个元素称个体。我们关心的是表征总体状况的数量指标 $X$ 及其分布,因此把总体与随机变量 $X$ 等同起来,说「总体 $X$」,总体的分布就是 $X$ 的分布。
设 $X_1,X_2,\dots,X_n$ 相互独立且与总体 $X$ 有相同概率分布,则称 $(X_1,X_2,\dots,X_n)$ 为来自总体 $X$、容量为 $n$ 的简单随机样本,简称样本。一次抽样得到的 $n$ 个具体数值 $(x_1,x_2,\dots,x_n)$ 称为样本值(观测值)。
设 $g(x_1,x_2,\dots,x_n)$ 是 $n$ 元函数,若 $g$ 中不含任何未知参数,则称 $g(X_1,X_2,\dots,X_n)$ 为一个统计量。若代入样本值,得到的 $g(x_1,x_2,\dots,x_n)$ 称为该统计量的观测值。
简单随机样本就是「独立同分布」,写作 $X_i\overset{\text{iid}}{\sim}F(x)$。因为独立,$n$ 个样本的联合分布可以拆成连乘;因为同分布,每个因子长得一样。这条性质是整讲的地基:
设总体 $X$ 的分布函数为 $F(x)$、概率密度为 $f(x)$、分布律为 $p_i=P\{X=x_i\}$,则样本的联合分布为
$$ F(x_1,\dots,x_n)=\prod_{i=1}^{n}F(x_i),\qquad f(x_1,\dots,x_n)=\prod_{i=1}^{n}f(x_i), $$ $$ P\{X_1=x_1,\dots,X_n=x_n\}=\prod_{i=1}^{n}P\{X_i=x_i\}. $$这个连乘式就是下一节写似然函数的那个「$\prod$」的来源。
「不含任何未知参数」是统计量的定义要点,判断某个样本函数是不是统计量的题,就是找它里面有没有 $F(x;\theta)$ 里的那个 $\theta$。例如 $X_1-\mu$($\mu$ 已知)是统计量,但 $\frac{1}{n}\sum(X_i-\mu)^{2}$($\mu$ 未知)不是。另外,统计量一定是样本的函数,所以它本身也是随机变量,只是不再依赖未知参数。
常用统计量:样本矩与顺序统计量
知识点常用统计量分两类:样本数字特征(均值、方差、矩)和顺序统计量(最大、最小)。前者用于估计参数,后者用于求极值的分布。
样本数字特征(大写 $X$ 是随机变量,小写 $x$ 是观测值)
| 名称 | 定义式 | 说明 |
|---|---|---|
| 样本均值 | $ \bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i $ | 就是样本一阶原点矩 |
| 样本方差 | $ S^{2}=\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\bar{X})^{2} $ | 分母是 $n-1$;样本二阶中心矩的修正值 |
| 样本标准差 | $ S=\sqrt{\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\bar{X})^{2}} $ | $S$ 与 $S^{2}$ 同单位 |
| 样本 $k$ 阶原点矩 | $ A_k=\frac{1}{n}\sum_{i=1}^{n}X_i^{k} $ | $k=1,2,\dots$,$A_1=\bar{X}$ |
| 样本 $k$ 阶中心矩 | $ B_k=\frac{1}{n}\sum_{i=1}^{n}(X_i-\bar{X})^{k} $ | $k=2,3,\dots$,注意分母是 $n$ |
设样本来自期望为 $\mu$、方差为 $\sigma^{2}$ 的总体,则
$$ E(\bar{X})=E(X)=\mu,\qquad D(\bar{X})=\frac{D(X)}{n}=\frac{\sigma^{2}}{n},\qquad E(S^{2})=D(X)=\sigma^{2}. $$第三条说明 $S^{2}$ 是 $\sigma^{2}$ 的无偏估计——这正是要拿 $n-1$ 而不是 $n$ 做分母的原因:$\frac{1}{n}\sum(X_i-\bar{X})^{2}$ 的期望是 $\frac{n-1}{n}\sigma^{2}$,偏小。
顺序统计量
把 $n$ 个观测值从小到大排成 $X_{(1)}\le X_{(2)}\le\cdots\le X_{(n)}$,$X_{(k)}$ 称为第 $k$ 顺序统计量。其中最小与最大两个最常考:
$$ X_{(1)}=\min\{X_1,\dots,X_n\},\qquad X_{(n)}=\max\{X_1,\dots,X_n\}. $$设总体分布函数为 $F(x)$、密度为 $f(x)$,则
$$ F_{(n)}(x)=[F(x)]^{n},\qquad f_{(n)}(x)=n[F(x)]^{n-1}f(x); $$ $$ F_{(1)}(x)=1-[1-F(x)]^{n},\qquad f_{(1)}(x)=n[1-F(x)]^{n-1}f(x). $$推导的思路特别好记:$\{X_{(n)}\le x\}$ 等价于「每个 $X_i$ 都不超过 $x$」,由独立性得 $[F(x)]^{n}$;$\{X_{(1)}\gt x\}$ 等价于「每个 $X_i$ 都大于 $x$」,得 $[1-F(x)]^{n}$,再做逆事件即得 $\min$ 的分布函数。
$S^{2}$ 的分母是 $n-1$,$B_2$(样本二阶中心矩)的分母是 $n$,两者常被混用。考试问「$E(S^{2})$ 等于什么」答 $\sigma^{2}$;问「$\frac{1}{n}\sum(X_i-\bar{X})^{2}$ 的期望等于什么」答 $\frac{n-1}{n}\sigma^{2}$。
三大抽样分布:$\chi^{2}$、$t$、$F$ 怎么造出来
知识点这三个分布都不是算出来的,而是由标准正态「拼」出来的。考试只考「给你一个统计量,判断它服从哪个分布、自由度是多少」,所以关键是记住构造式与自由度计法,不必记密度函数。
卡方分布 $\chi^{2}(n)$:平方和
设 $X_1,X_2,\dots,X_n$ 相互独立且都服从 $N(0,1)$,则
$$ X=\sum_{i=1}^{n}X_i^{2}\sim\chi^{2}(n), $$称 $X$ 服从自由度为 $n$ 的 $\chi^{2}$ 分布。和式中独立变量的个数就是自由度。
- 可加性:若 $X_1\sim\chi^{2}(n_1)$、$X_2\sim\chi^{2}(n_2)$ 且相互独立,则 $X_1+X_2\sim\chi^{2}(n_1+n_2)$,可推广到有限多个。
- 数字特征:若 $X\sim\chi^{2}(n)$,则 $E(X)=n$,$D(X)=2n$(期望等于自由度,方差是自由度的 2 倍)。
- 上 $\alpha$ 分位数:$P\{X\gt \chi^{2}_{\alpha}(n)\}=\alpha$。注意 $\chi^{2}$ 分布不对称,没有对称性公式可用。
$t$ 分布 $t(n)$:一个正态除以一个卡方的根
设 $X\sim N(0,1)$,$Y\sim\chi^{2}(n)$,且 $X$ 与 $Y$ 相互独立,则
$$ t=\frac{X}{\sqrt{Y/n}}\sim t(n), $$称 $t$ 服从自由度为 $n$ 的 $t$ 分布。分母除以 $n$ 是为了让上下「同尺度」,保证结果不随 $n$ 漂移。
- 密度图形关于 $x=0$ 对称,因此 $E(t)=0$($n\ge 2$),且当 $n\to\infty$ 时 $t(n)$ 趋于 $N(0,1)$。
- 分位数的对称性公式:$t_{1-\alpha}(n)=-t_{\alpha}(n)$。表中查不到 $\alpha$ 时用它。
- 平方之后变 $F$:若 $t\sim t(n)$,则 $t^{2}\sim F(1,n)$。
$F$ 分布 $F(n_1,n_2)$:两个卡方之比的「归一化」
设 $X\sim\chi^{2}(n_1)$,$Y\sim\chi^{2}(n_2)$,且 $X$ 与 $Y$ 相互独立,则
$$ F=\frac{X/n_1}{Y/n_2}\sim F(n_1,n_2), $$其中 $n_1$ 称第一自由度(分子的),$n_2$ 称第二自由度(分母的)。两个卡方都要先除各自的自由度再比,否则比值没有可比性。
- 倒数换自由度:若 $F\sim F(n_1,n_2)$,则 $\frac{1}{F}\sim F(n_2,n_1)$。
- 分位数互倒:$F_{1-\alpha}(n_1,n_2)=\frac{1}{F_{\alpha}(n_2,n_1)}$,常用来求表中未列出的分位数。特别地取 $\alpha=0.5$、$n_1=n_2=n$ 得 $F_{0.5}(n,n)=1$。
三个分布的自由度写错是最常见的失分点。记三个数:$\chi^{2}$ 看平方和的项数;$t$ 看分母里卡方的自由度(分子那个正态不贡献自由度);$F$ 看分子在前、分母在后。另外,$t^{2}\sim F(1,n)$ 而不是 $t\sim F$;$\frac{1}{F}$ 的 $F$ 要交换两个自由度的位置。
正态总体的抽样分布:六条必考结论
知识点这一组结论是整个数理统计考得最密的地方。取法统一:设 $X_1,\dots,X_n$ 是来自正态总体 $N(\mu,\sigma^{2})$ 的样本,$\bar{X}$ 与 $S^{2}$ 分别是样本均值与样本方差。六条结论对应六种「已知什么、要什么」的组合。
$ \bar{X}\sim N\left(\mu,\frac{\sigma^{2}}{n}\right) $,标准化得
$$ \frac{\bar{X}-\mu}{\sigma/\sqrt{n}}=\frac{\sqrt{n}(\bar{X}-\mu)}{\sigma}\sim N(0,1). $$这是「$\bar{X}$ 减期望、除标准误」的模板,后面所有 $t$、$F$ 都由它派生。
$ \frac{1}{\sigma^{2}}\sum_{i=1}^{n}(X_i-\mu)^{2}\sim\chi^{2}(n). $
因为每个 $\frac{X_i-\mu}{\sigma}\sim N(0,1)$,$n$ 个独立平方相加,自由度自然是 $n$。
$ \frac{(n-1)S^{2}}{\sigma^{2}}=\sum_{i=1}^{n}\left(\frac{X_i-\bar{X}}{\sigma}\right)^{2}\sim\chi^{2}(n-1). $
少掉的那一个自由度是被 $\bar{X}$ 占掉的:$n$ 个偏差满足约束 $\sum(X_i-\bar{X})=0$,只有 $n-1$ 个是自由的。
在正态总体下,$\bar{X}$ 与 $S^{2}$ 独立。这是一条只对正态总体成立的结论,其他分布下一般不成立,也是下面结论 ⑤ 能成立的前提。
由 ①、③、④ 拼出来:分子是 $N(0,1)$,分母是 $\sqrt{\chi^{2}(n-1)/(n-1)}$,且两者独立,于是
$$ \frac{\bar{X}-\mu}{S/\sqrt{n}}=\frac{\sqrt{n}(\bar{X}-\mu)}{S}\sim t(n-1). $$这是区间估计与假设检验里 $\sigma$ 未知时的主角:$\sigma$ 已知用 $\Phi$,未知用 $t$。
$ \frac{n(\bar{X}-\mu)^{2}}{S^{2}}\sim F(1,n-1). $
验证一下自由度:$\frac{n(\bar{X}-\mu)^{2}}{\sigma^{2}}\sim\chi^{2}(1)$,$\frac{(n-1)S^{2}}{\sigma^{2}}\sim\chi^{2}(n-1)$,两者独立,相除时 $1$ 与 $n-1$ 各除自己的自由度,$\sigma^{2}$ 约掉,即得上式。
两个样本的情形
设 $X_1,\dots,X_m$ 来自 $N(\mu_1,\sigma_1^{2})$,$Y_1,\dots,Y_n$ 来自 $N(\mu_2,\sigma_2^{2})$,两样本独立,则
$$ \frac{S_1^{2}/\sigma_1^{2}}{S_2^{2}/\sigma_2^{2}}\sim F(m-1,\ n-1). $$两个总体方差相等($\sigma_1^{2}=\sigma_2^{2}$)时,上式化简为 $\frac{S_1^{2}}{S_2^{2}}\sim F(m-1,n-1)$。这条式子在两样本检验与置信区间中反复出现。
四个高频错误:① 把结论 ③ 的自由度写成 $n$($\mu$ 未知时是 $n-1$);② 在非正态总体上套用「$\bar{X}$ 与 $S^{2}$ 独立」;③ 结论 ⑤ 里分母忘写 $n$ 或写成 $S/\sqrt{n-1}$;④ 结论 ⑥ 的自由度写成 $(n,n-1)$ 或 $(1,n)$,正确的是 $F(1,n-1)$。
题型 1:判断统计量服从哪个分布
题型判断统计量服从哪个分布
识别特征:题目给出一个由 $X_i$ 拼出来的统计量,问它服从 $\chi^{2}(k)$、$t(k)$、$F(m,n)$ 还是 $N(0,1)$。这类题的答案几乎全在「先凑标准正态,再按构造式拼」这两步里。
- 先把每一项标准化。题目给的是 $N(\mu,\sigma^{2})$,第一步一律化成 $N(0,1)$:$X_i\rightsquigarrow\frac{X_i-\mu}{\sigma}$。若给的是 $X_i\sim N(0,\sigma^{2})$,乘 $\frac{1}{\sigma}$ 即可。
- 再看结构。平方和就是一串 $N(0,1)$ 的平方相加 $\Rightarrow\chi^{2}$;「一个标准正态 ÷ $\sqrt{\text{卡方}/\text{自由度}}$」$\Rightarrow t$;「两个卡方各自除以自由度再相除」$\Rightarrow F$。
- 数自由度。$\chi^{2}$ 数独立的平方项个数;$t$ 只数分母卡方的自由度;$F$ 数「分子几项、分母几项」,且各自要先除以自己的自由度。
- 检查独立。拼 $t$ 和 $F$ 都要求两半独立。没有变量重叠(不同下标)就独立;一旦共享同一个 $X_i$ 就不独立。这是选择题最爱设的坑。
设总体 $X\sim N(0,3^{2})$,$X_1,X_2,\dots,X_8$ 是来自总体 $X$ 的简单随机样本,则统计量 $Y=\frac{X_1+X_2+X_3+X_4}{\sqrt{X_5^{2}+X_6^{2}+X_7^{2}+X_8^{2}}}$ 服从( )
(A)$\chi^{2}(4)$ (B)$t(4)$ (C)$F(4,4)$ (D)$N(0,4^{2})$
先算分子:$D(X_1+X_2+X_3+X_4)=4\times 9=36$,故 $X_1+\cdots+X_4\sim N(0,36)$,标准化得 $U=\frac{X_1+\cdots+X_4}{6}\sim N(0,1)$。再看分母:每个 $\frac{X_i}{3}\sim N(0,1)$,于是 $V=\sum_{i=5}^{8}\left(\frac{X_i}{3}\right)^{2}=\frac{X_5^{2}+\cdots+X_8^{2}}{9}\sim\chi^{2}(4)$。$U$ 与 $V$ 由不重叠的 $X_i$ 构造,相互独立,把 $Y$ 改写成
$$ Y=\frac{(X_1+X_2+X_3+X_4)/6}{\sqrt{\left(X_5^{2}+X_6^{2}+X_7^{2}+X_8^{2}\right)/9\,/\,4}}=\frac{U}{\sqrt{V/4}}\sim t(4), $$故选(B)。
设 $X_1,X_2,\dots,X_{15}$ 是来自正态总体 $N(0,9)$ 的简单随机样本,则统计量 $Y=\frac{1}{2}\cdot\frac{X_1^{2}+X_2^{2}+\cdots+X_{10}^{2}}{X_{11}^{2}+X_{12}^{2}+\cdots+X_{15}^{2}}$ 服从( )
(A)$t(10)$ (B)$t(15)$ (C)$F(10,5)$ (D)$F(5,10)$
由构造式,$\chi_1^{2}=\frac{X_1^{2}+\cdots+X_{10}^{2}}{9}\sim\chi^{2}(10)$,$\chi_2^{2}=\frac{X_{11}^{2}+\cdots+X_{15}^{2}}{9}\sim\chi^{2}(5)$,且两者独立。于是
$$ Y=\frac{\chi_1^{2}/10}{\chi_2^{2}/5}\sim F(10,5), $$第一自由度 $10$(分子),第二自由度 $5$(分母),故选(C)。注意那个系数 $\frac{1}{2}$ 正是为了让 $10$ 与 $5$ 各自归一化:$\frac{1}{2}=\frac{1}{10}\big/\frac{1}{5}$。
参数的点估计:矩估计与最大似然估计
知识点这是本讲唯一每天都会出现在考卷上的计算题。两种方法的共同目标都是「用样本算出参数 $\hat{\theta}$」,区别在于:矩估计是让理论矩等于样本矩,最大似然是让观测值出现的概率最大。
设总体 $X$ 的分布含未知参数 $\theta$。由样本构造统计量 $\hat{\theta}(X_1,\dots,X_n)$ 作为 $\theta$ 的估计,称它为 $\theta$ 的估计量;代入样本值得到的 $\hat{\theta}(x_1,\dots,x_n)$ 称估计值。用估计量给出 $\theta$ 的近似值,就是点估计问题。
方法一:矩估计
原则一句话:用样本矩替换总体矩,$\bar{X}$ 替 $E(X)$,$\frac{1}{n}\sum X_i^{2}$ 替 $E(X^{2})$,建立含参数的方程,解出来就是矩估计。
- 只含一个参数:先令 $\bar{X}=E(X)$。解出 $\theta$ 即得 $\hat{\theta}$。
- 一阶矩解不动($E(X)$ 里没有 $\theta$,或解出来很困难)时,改用二阶矩:令 $\frac{1}{n}\sum_{i=1}^{n}X_i^{2}=E(X^{2})$,其中 $E(X^{2})=D(X)+[E(X)]^{2}$。
- 两个参数:联立两个方程 $\bar{X}=E(X)$ 与 $\frac{1}{n}\sum X_i^{2}=E(X^{2})$,解出两个未知参数。
- 阶数原则:优先用低阶。取「能解出含参数方程的最小 $k$」,能用一阶绝不用二阶。
方法二:最大似然估计
思路:参数取什么值时,「恰好抽到这组样本值」这件事最可能发生?把那个概率(或密度)看成 $\theta$ 的函数,求它的最大值点。
- 写似然函数。由独立同分布,$L(\theta)=\prod_{i=1}^{n}p(x_i;\theta)$(离散型)或 $L(\theta)=\prod_{i=1}^{n}f(x_i;\theta)$(连续型)。这一步就是在用 6.1 的连乘式。
- 取对数。$\ln L(\theta)=\sum_{i=1}^{n}\ln p(x_i;\theta)$(或 $\sum\ln f(x_i;\theta)$)。连乘变连加才算得动。$L(\theta)$ 与 $\ln L(\theta)$ 的极大点相同,所以取对数不改变答案,这一步必须写出来。
- 求导置零。令 $\frac{\mathrm{d}\ln L(\theta)}{\mathrm{d}\theta}=0$(或 $\frac{\mathrm{d}L}{\mathrm{d}\theta}=0$),解出 $\hat{\theta}$。若有多个解,按参数取值范围舍去不合题意的。
- 两种例外用定义做。似然函数无驻点(单调)时,最大值在参数范围端点处取到,直接在定义域上找;似然函数为常数时 $\hat{\theta}$ 不唯一。
设 $\hat{\theta}$ 是 $\theta$ 的最大似然估计,函数 $u=u(\theta)$ 有反函数,则 $\hat{u}=u(\hat{\theta})$ 是 $u(\theta)$ 的最大似然估计。例如 $\hat{\theta}$ 是 $\theta$ 的最大似然估计,则 $e^{\hat{\theta}}$ 就是 $e^{\theta}$ 的最大似然估计。这条性质在题目问「求 $g(\theta)$ 的最大似然估计」时直接用,不必重算一遍。
最大似然题丢分几乎都在三处:① 忘了把 $\prod$ 展开就求导(连乘式直接求导几乎必错,必须先取 $\ln$);② 只写 $L(\theta)$ 不写 $\ln L(\theta)$,或反过来把 $L$ 的驻点当成 $\ln L$ 的驻点(两者驻点相同,但不能混着写过程);③ 参数有限制范围(如 $\theta\le\min\{x_i\}$,或 $0\lt\theta\lt\frac{1}{2}$)时,解出的根不满足约束仍照抄。另外,矩估计里 $\bar{X}$ 与 $E(X)$ 是「样本观测值」与「理论值」的对等,不是相等。
题型 2:求矩估计量与最大似然估计量
题型求矩估计量与最大似然估计量
识别特征:题目给出含未知参数 $\theta$ 的分布列或概率密度,要求「求 $\theta$ 的矩估计量」「求 $\theta$ 的最大似然估计量」。两种问法常常一起出现,按固定流程写就有分。
- 矩估计三行式。第一行算 $E(X)$(用概率论的方法,别用样本);第二行写令 $E(X)=\bar{X}$;第三行解出 $\hat{\theta}$。若一阶矩不含参数,改用 $E(X^{2})=D(X)+[E(X)]^{2}$。
- 似然函数先判断类型。离散型写 $\prod p(x_i;\theta)$,连续型写 $\prod f(x_i;\theta)$;同时把支撑范围抄下来(哪些 $x_i$ 密度非零),这一步决定后面用不用「定义法」。
- 取对数、求导、解方程。$\frac{\mathrm{d}\ln L}{\mathrm{d}\theta}=0$,得到的是 $\theta$ 与 $\bar{X}$ 或 $\frac{1}{n}\sum x_i^{2}$ 的关系式。
- 换成大写。问「估计量」就把 $\bar{X}$、$\min\{X_i\}$ 写成大写随机变量;问「估计值」就代入具体的 $x_1,\dots,x_n$。
设总体 $X$ 的概率密度为 $f(x;\theta)=\frac{1}{1-\theta}$($\theta\le x\le 1$),其他处为 $0$,其中 $\theta$ 为未知参数,$X_1,\dots,X_n$ 为来自该总体的简单随机样本。(1)求 $\theta$ 的矩估计量;(2)求 $\theta$ 的最大似然估计量。
(1)这实际上是区间 $[\theta,1]$ 上的均匀分布,故 $E(X)=\frac{1+\theta}{2}$。令 $\frac{1+\theta}{2}=\bar{X}$,解得 $\hat{\theta}=2\bar{X}-1$,这就是矩估计量。
(2)写似然函数。密度非零要求 $x_i\in[\theta,1]$,也就是 $\theta\le\min\{x_1,\dots,x_n\}$ 且每个 $x_i\le 1$,于是
$$ L(\theta)=\prod_{i=1}^{n}f(x_i;\theta)=\begin{cases}\dfrac{1}{(1-\theta)^{n}}, & \theta\le \min\{x_1,\dots,x_n\}\ \text{且}\ 0\lt x_i\le 1,\\[6pt] 0, & \text{其他}.\end{cases} $$在 $\theta$ 的允许范围内,$L(\theta)=(1-\theta)^{-n}$ 对 $\theta$ 单调增加($\theta$ 越大,$1-\theta$ 越小,倒数越大),没有驻点,所以最大值在右端点 $\theta=\min\{x_1,\dots,x_n\}$ 处取到。由定义法得 $\hat{\theta}=\min\{X_1,\dots,X_n\}$。(若照搬「求导置零」,这里会得到一个荒谬的结论,因为似然函数根本没有驻点。)
设总体 $X$ 的概率分布为 $P\{X=0\}=\theta^{2}$,$P\{X=1\}=2\theta(1-\theta)$,$P\{X=2\}=\theta^{2}$,$P\{X=3\}=1-2\theta$,其中 $0\lt\theta\lt\frac{1}{2}$ 是未知参数。从总体中抽取容量为 $8$ 的样本,样本值为 $3,1,3,0,3,1,2,3$。求 $\theta$ 的矩估计值和最大似然估计值。
矩估计:先算 $E(X)$。由分布列
$$ E(X)=0\cdot\theta^{2}+1\cdot 2\theta(1-\theta)+2\cdot\theta^{2}+3\cdot(1-2\theta)=3-4\theta, $$又由样本值算得 $\bar{x}=\frac{1}{8}(3+1+3+0+3+1+2+3)=2$。令 $3-4\theta=2$,得 $\hat{\theta}=\frac{1}{4}$,这是矩估计值。
最大似然:$8$ 个样本值中各数出现的次数为:$3$ 出现 $4$ 次,$0$ 出现 $1$ 次,$1$ 出现 $2$ 次,$2$ 出现 $1$ 次,于是
$$ L(\theta)=\theta^{2}\cdot\left[2\theta(1-\theta)\right]^{2}\cdot\theta^{2}\cdot(1-2\theta)^{4}=4\theta^{6}(1-\theta)^{2}(1-2\theta)^{4}, $$ $$ \ln L(\theta)=\ln 4+6\ln\theta+2\ln(1-\theta)+4\ln(1-2\theta), $$ $$ \frac{\mathrm{d}\ln L}{\mathrm{d}\theta}=\frac{6}{\theta}-\frac{2}{1-\theta}-\frac{8}{1-2\theta}=\frac{24\theta^{2}-28\theta+6}{\theta(1-\theta)(1-2\theta)}=0, $$即 $12\theta^{2}-14\theta+3=0$,解得 $\theta=\frac{7\pm\sqrt{13}}{12}$。因为 $\frac{7+\sqrt{13}}{12}\gt\frac{1}{2}$ 不合题意,故 $\hat{\theta}=\frac{7-\sqrt{13}}{12}$,这是最大似然估计值。
估计量的评价标准:无偏、有效、一致
知识点同一个参数可以有无穷多个估计量,凭什么说一个比另一个好?三条标准给出三个维度的比较:准不准(无偏)、稳不稳(有效)、样本多了会不会收敛(一致)。
无偏性:若 $E(\hat{\theta})=\theta$,称 $\hat{\theta}$ 为 $\theta$ 的无偏估计量。意思是「平均而言不偏不倚」,没有系统误差。
有效性(最小方差性):若 $E(\hat{\theta}_1)=\theta$、$E(\hat{\theta}_2)=\theta$,且 $D(\hat{\theta}_1)\lt D(\hat{\theta}_2)$,则称 $\hat{\theta}_1$ 比 $\hat{\theta}_2$ 有效。比较有效性的前提是两者都无偏。
一致性(相合性):若对任意 $\varepsilon\gt 0$,有 $\lim_{n\to\infty}P\{|\hat{\theta}-\theta|\ge\varepsilon\}=0$,即 $\hat{\theta}\xrightarrow{P}\theta$,则称 $\hat{\theta}$ 为 $\theta$ 的一致(相合)估计。这一条只对大样本($n\to\infty$)有意义。
三条标准怎么验证
| 标准 | 要算什么 | 常用工具 |
|---|---|---|
| 无偏性 | $E(\hat{\theta})$,看是否等于 $\theta$ | 期望的线性性质;$E(\bar{X})=\mu$、$E(S^{2})=\sigma^{2}$、$E(X^{2})=D(X)+[E(X)]^{2}$ |
| 有效性 | $D(\hat{\theta})$,比大小 | $D(\bar{X})=\frac{\sigma^{2}}{n}$;独立时 $D(\sum a_iX_i)=\sum a_i^{2}D(X_i)$ |
| 一致性 | $\hat{\theta}\xrightarrow{P}\theta$ | 切比雪夫不等式(若 $D(\hat{\theta})\to 0$);或辛钦大数定律 |
① 切比雪夫不等式:$P\{|\hat{\theta}-\theta|\ge\varepsilon\}\le\frac{D(\hat{\theta})}{\varepsilon^{2}}$。只要 $D(\hat{\theta})\to 0$,右边趋于 $0$,即得 $\hat{\theta}\xrightarrow{P}\theta$。
② 辛钦大数定律:若 $\hat{\theta}$ 是独立同分布样本的均值型函数,直接由 $\bar{X}\xrightarrow{P}E(X)=\mu$ 得一致性;再配合连续函数性质,$\bar{X}$ 的函数也依概率收敛到对应值。
其一,比较有效性的前提是两者都无偏,不能拿一个有偏的估计量去比方差。其二,无偏不一定一致:$X_1$ 是 $\mu$ 的无偏估计($E(X_1)=\mu$),但它的方差恒为 $\sigma^{2}$、不随 $n$ 变小,所以不是一致估计。其三,一致性也不蕴含无偏,两者是独立的两条标准。其四,验证一致性时常见写法是先估 $E(\hat{\theta})$、再估 $D(\hat{\theta})$,最后用切比雪夫夹一次极限。
题型 3:判断无偏性与比较有效性
题型判断无偏性与比较有效性
识别特征:题目给出几个由 $X_1,\dots,X_n$ 线性组合成的估计量,问「哪些是 $\theta$ 的无偏估计」「其中哪一个最有效」,或者给一个形如 $k\sum(X_{i+1}-X_i)^{2}$ 的统计量,问「为使它成为 $\sigma^{2}$ 的无偏估计,$k$ 应取多少」。
- 先算 $E(\hat{\theta})$。线性组合直接拆开:$E\left(\sum a_iX_i\right)=\sum a_iE(X_i)=\mu\sum a_i$,所以「系数和为 1」等价于无偏。这一步几乎能秒判无偏性。
- 再算 $D(\hat{\theta})$。独立时 $D\left(\sum a_iX_i\right)=\sum a_i^{2}D(X_i)=\sigma^{2}\sum a_i^{2}$。所以「系数平方和最小」的那个估计量最有效。
- 遇到待定系数 $k$,走「令 $E=\theta$ 反解」。把 $E$ 展开成 $\sigma^{2}$ 与 $\mu^{2}$ 的组合,$\mu^{2}$ 的项必须自动抵消(否则题目有误),剩下的系数与 $\sigma^{2}$ 相乘,令其等于 $\sigma^{2}$ 就能解出 $k$。
- 要证一致性,再加一步。估出 $D(\hat{\theta})$ 后用切比雪夫不等式夹到 $1$,取极限。
设总体 $X\sim N(\mu,\sigma^{2})$,$X_1,X_2,X_3$ 是来自总体 $X$ 的简单随机样本,记
$$ \hat{\mu}_1=\frac{1}{5}X_1+\frac{3}{10}X_2+\frac{1}{2}X_3, $$ $$ \hat{\mu}_2=\frac{1}{3}X_1+\frac{1}{4}X_2+\frac{5}{12}X_3, $$ $$ \hat{\mu}_3=\frac{1}{3}X_1+\frac{1}{6}X_2+\frac{1}{2}X_3. $$证明 $\hat{\mu}_1,\hat{\mu}_2,\hat{\mu}_3$ 都是 $\mu$ 的无偏估计,并指出哪一个最有效。
无偏性只看系数和:
$$ \frac{1}{5}+\frac{3}{10}+\frac{1}{2}=1,\qquad \frac{1}{3}+\frac{1}{4}+\frac{5}{12}=1, $$ $$ \frac{1}{3}+\frac{1}{6}+\frac{1}{2}=1, $$三个系数和都是 $1$,故 $E(\hat{\mu}_i)=\mu$,都是无偏估计。
有效性比方差,独立时方差等于系数平方和乘 $\sigma^{2}$:
$$ D(\hat{\mu}_1)=\left(\frac{1}{25}+\frac{9}{100}+\frac{1}{4}\right)\sigma^{2}=\frac{19}{50}\sigma^{2}, $$ $$ D(\hat{\mu}_2)=\left(\frac{1}{9}+\frac{1}{16}+\frac{25}{144}\right)\sigma^{2}=\frac{25}{72}\sigma^{2}, $$ $$ D(\hat{\mu}_3)=\left(\frac{1}{9}+\frac{1}{36}+\frac{1}{4}\right)\sigma^{2}=\frac{7}{18}\sigma^{2}. $$比较三个数:$\frac{25}{72}\approx 0.347\lt \frac{19}{50}=0.38\lt \frac{7}{18}\approx 0.389$,即 $D(\hat{\mu}_2)\lt D(\hat{\mu}_1)\lt D(\hat{\mu}_3)$。所以 $\hat{\mu}_2$ 的方差最小,$\hat{\mu}_2$ 最有效。
设 $X_1,X_2,\dots,X_n$ 是来自正态总体 $N(\mu,\sigma^{2})$ 的简单随机样本,为使 $D=k\sum_{i=1}^{n-1}(X_{i+1}-X_i)^{2}$ 成为总体方差 $\sigma^{2}$ 的无偏估计量,则 $k=$( )
(A)$\frac{1}{n-1}$ (B)$\frac{1}{n}$ (C)$\frac{1}{2(n-1)}$ (D)$\frac{1}{2n}$
由条件 $E(X_i^{2})=\sigma^{2}+\mu^{2}$。若 $D$ 无偏,则 $E(D)=\sigma^{2}$,而
$$ E(D)=k\sum_{i=1}^{n-1}E\left[(X_{i+1}-X_i)^{2}\right]=k\sum_{i=1}^{n-1}\left[2E(X_i^{2})-2E(X_{i+1})E(X_i)\right]=k(n-1)\left(2\sigma^{2}+2\mu^{2}-2\mu^{2}\right)=2k(n-1)\sigma^{2}, $$令 $2k(n-1)\sigma^{2}=\sigma^{2}$,得 $k=\frac{1}{2(n-1)}$,故选(C)。注意这里共有 $n-1$ 个差值,不是 $n$ 个。
考前速查
进考场前最后翻的三页:公式表、易错清单、题干关键词对照。
公式总表
结论速查概率的运算
| 名称 | 公式 | 使用条件 |
|---|---|---|
| 加法公式 | $P(A\cup B)=P(A)+P(B)-P(AB)$ | 任意事件 |
| 互斥加法 | $P(A\cup B)=P(A)+P(B)$ | $AB=\varnothing$ |
| 减法公式 | $P(A-B)=P(A)-P(AB)$ | 任意事件 |
| 逆事件 | $P(\bar{A})=1-P(A)$ | 任意事件 |
| 条件概率 | $P(A\mid B)=\dfrac{P(AB)}{P(B)}$ | $P(B)\gt 0$ |
| 乘法公式 | $P(AB)=P(A\mid B)P(B)=P(B\mid A)P(A)$ | 条件概率存在 |
| 全概率公式 | $P(A)=\sum_{i=1}^{n}P(A\mid B_i)P(B_i)$ | $B_1,\dots,B_n$ 是完备事件组 |
| 贝叶斯公式 | $P(B_j\mid A)=\dfrac{P(A\mid B_j)P(B_j)}{\sum_{i}P(A\mid B_i)P(B_i)}$ | 同上 |
| 独立性 | $P(AB)=P(A)P(B)$ | 定义式,可推广到多个事件 |
数字特征
| 对象 | 公式 |
|---|---|
| 期望(离散) | $E(X)=\sum_{k}x_k p_k$ |
| 期望(连续) | $E(X)=\int_{-\infty}^{+\infty}x f(x)\dd x$ |
| 函数的期望 | $E[g(X)]=\int_{-\infty}^{+\infty}g(x)f(x)\dd x$ |
| 方差 | $D(X)=E(X^2)-[E(X)]^2$ |
| 期望的性质 | $E(aX+bY+c)=aE(X)+bE(Y)+c$(不需要独立) |
| 方差的和 | $D(X\pm Y)=D(X)+D(Y)\pm 2\mathrm{Cov}(X,Y)$ |
| 独立时 | $D(X+Y)=D(X)+D(Y)$,$E(XY)=E(X)E(Y)$ |
| 协方差 | $\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$ |
| 相关系数 | $\rho_{XY}=\dfrac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$,$\|\rho_{XY}\|\le 1$ |
| 切比雪夫不等式 | $P\{\|X-E(X)\|\ge\varepsilon\}\le\dfrac{D(X)}{\varepsilon^2}$ |
抽样分布(正态总体)
| 统计量 | 分布 | 备注 |
|---|---|---|
| $\bar{X}$ | $\bar{X}\sim N\left(\mu,\dfrac{\sigma^2}{n}\right)$ | 样本均值 |
| $\dfrac{(n-1)S^2}{\sigma^2}$ | $\chi^2(n-1)$ | 样本方差,自由度 $n-1$ |
| $\dfrac{\bar{X}-\mu}{S/\sqrt{n}}$ | $t(n-1)$ | $\sigma$ 未知时用它 |
| $\dfrac{\bar{X}-\mu}{\sigma/\sqrt{n}}$ | $N(0,1)$ | $\sigma$ 已知时用它 |
| $\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}$ | $F(n_1-1,\ n_2-1)$ | 两样本方差比 |
- $\bar{X}$ 与 $S^2$ 相互独立(正态总体下),这条是抽样分布题的命门。
- $t$ 分布的定义:$T=\dfrac{Z}{\sqrt{Y/n}}$,其中 $Z\sim N(0,1)$,$Y\sim\chi^2(n)$ 且独立。
- $F$ 分布的定义:$F=\dfrac{Y_1/n_1}{Y_2/n_2}$,其中 $Y_1\sim\chi^2(n_1)$、$Y_2\sim\chi^2(n_2)$ 且独立。
最容易丢分的十二条
结论速查- 互斥与独立是两回事:互斥指 $AB=\varnothing$,独立指 $P(AB)=P(A)P(B)$。只有 $P(A)=0$ 或 $P(B)=0$ 时两者才可能同时成立。
- 不相关推不出独立:$\mathrm{Cov}(X,Y)=0$ 只说明没有线性关系。只有二维正态时,不相关与独立才等价。
- 期望的线性性不需要独立,$E(X+Y)=E(X)+E(Y)$ 永远成立。
- $E(XY)=E(X)E(Y)$ 需要独立(或至少不相关)。
- $D(X+Y)=D(X)+D(Y)$ 只在独立或不相关时成立,一般情形要加 $2\mathrm{Cov}(X,Y)$。
- 连续型随机变量 $P\{X=a\}=0$,所以 $P\{a\lt X\lt b\}=P\{a\le X\le b\}=F(b)-F(a)$ 在这种情形下开闭不影响结果;但离散型不能这么写。
- 概率密度 $f(x)$ 可以大于 1(例如 $U(0,\,0.5)$ 的密度是 2),别以为密度必须小于 1;但分布函数 $F(x)$ 必须落在 $[0,1]$。
- 由分布函数求 $P\{X=a\}$ 是 $F(a)-F(a-0)$,离散型才有非零值。
- 用中心极限定理前必须先标准化,别把 $\sum X_i$ 直接当 $N(0,1)$ 用。
- $\chi^2$ 分布自由度:$n$ 个独立正态的平方和是 $\chi^2(n)$,而 $\dfrac{(n-1)S^2}{\sigma^2}$ 是 $\chi^2(n-1)$,差一个自由度。
- 最大似然:写对数似然 $\ln L(\theta)$ → 求导 → 令导数为零 → 验证是最大值点。别漏了对数这一步直接用 $L$ 求导。
- 矩估计:先写出总体矩等于样本矩的方程,再解出参数。
题干关键词 → 解法对照
结论速查看到这些说法,第一反应应该是什么。
| 题干说法 | 第一反应 |
|---|---|
| 「至少有一个发生」 | 用对偶律转成「全不发生」的逆:$P(A\cup B)=1-P(\bar{A}\bar{B})$ |
| 「恰好有一个发生」 | 拆成 $A\bar{B}\cup \bar{A}B$,注意两两互斥可直接相加 |
| 「已知……求……」 | 条件概率 / 贝叶斯公式,先划清哪个是条件 |
| 「分几种情况」 | 全概率公式,先构造完备事件组 |
| 「先后不放回抽取」 | 乘法公式或古典概型,看是否对称 |
| 「独立重复试验 $n$ 次」 | 二项分布 $B(n,p)$ |
| 「首次出现」 | 几何分布 |
| 「单位时间内的次数」 | 泊松分布 |
| 「$Z=\max(X,Y)$ / $\min(X,Y)$」 | 分布函数法:$F_{\max}=F_X(z)F_Y(z)$(独立时) |
| 「$Z=X+Y$」 | 卷积公式(连续)或枚举(离散) |
| 「求 $E(X)$ / $D(X)$」 | 先看能不能用性质拆解,别急着积分 |
| 「已知独立,求……」 | 立刻想到 $P(AB)=P(A)P(B)$、$D(X+Y)=D(X)+D(Y)$ |
| 「用样本推断总体」 | 第 6 讲:矩估计或最大似然 |
概率题的难点从来不是「想不到」,而是「算不完」。所以这份总结按题型组织: 让你读题时先归类,动笔前先定范围,算的时候少走弯路。