概率分布

随机变量的概率分布显示了随机变量的不同值的概率是如何分布的。当随机变量的所有值在图上对齐时，其概率值会生成一个形状。概率分布有几个可以测量的属性（例如：期望值和方差）。

在概率分布中，随机变量的结果是不确定的。在这里，结果的观察被称为实现。它是将样本空间映射到实数空间（称为状态空间）的函数。它们可以是离散的或连续的。

随机变量

随机变量是概率和统计学中的一个重要概念。我们需要直观地和数学地理解它，以更深入地了解日常生活中我们周围的概率分布。

It’s a function which associates a real number with an event.

编程需要懂一点英语

有时我们不仅对实验中事件的概率感兴趣，而且对与实验相关的一些数字感兴趣。这是我们觉得需要随机变量的时候。

让我们举一个抛硬币的例子。我们将从掷硬币开始找出答案。我们将使用 H 表示“正面”，使用 T 表示“反面”。

所以现在我们抛硬币 5 次，我们想回答一些问题。

1. What is the probability of getting exactly 3 heads?

2. What is the probability of getting less than 4 heads?

3. What is the probability of getting more than 1 head?

编程需要懂一点英语

那么我们的一般写作方式是：

· P(Probability of getting exactly 3 heads when we flip a coin 5 times)

· P(Probability of getting less than 4 heads when we flip a coin 5 times)

· P(Probability of getting more than 1 head when we flip a coin 5 times)

编程需要懂一点英语

在不同的场景中，假设我们正在掷两个骰子，并且我们想知道得到两个数字之和为 6 的概率。

因此，在这两种情况下，随机变量都会帮助我们。首先，让我们在数学上定义什么是随机变量。

定义

它是为每个可能的结果分配一个值（数字）。用更数学的术语来说，它是从样本空间 Ω 到实数的函数。我们可以根据需要选择我们的随机变量。

A random variable is a real valued function whose domain is the sample space of a random experiment

编程需要懂一点英语

为了更直观，让我们考虑连续抛硬币两次的实验。

实验的样本空间为S = {HH, HT, TH, TT} 。让我们根据需要定义一个随机变量来统计正面或反面的事件，让X表示获得正面的数量。对于每个结果，其值如下所示：

X(HH) = 2, X (HT) = 1, X (TH) = 1, X (TT) = 0.

编程需要懂一点英语

在同一个样本空间中可以定义多个随机变量。例如，让Y表示上述样本空间 S 的每个结果的正面数量减去反面数量。

Y(HH) = 2, Y (HT) = 0, Y (TH) = 0, Y (TT) = – 2

编程需要懂一点英语

因此， X和Y是在同一样本上定义的两个不同的随机变量。

Note: More than one event can map to same value of random variable.

编程需要懂一点英语

概率分布中随机变量的类型

离散随机变量
连续随机变量

概率分布中的离散随机变量

离散随机变量只能取有限数量的值。为了进一步理解这一点，让我们看一些离散随机变量的例子：

X = {掷两个骰子时的结果之和}。在这里，X 只能取 {2, 3, 4, 5, 6....10, 11, 12} 之类的值。
X = {100 次抛硬币的正面数}。在这里，X 只能取 [0,100] 中的整数值。

概率分布中的连续随机变量

连续随机变量可以在连续域中取无限值。让我们看一个dart游戏的例子。

假设我们有一个dart游戏，我们在其中投掷dart，dart可以落在 x 轴上 [-1,1] 之间的任何位置。因此，如果我们将随机变量定义为dart位置的 x 坐标，则 X 可以取 [-1,1] 中的任何值。 X 可以取无限多个可能的值。（X = {0.1, 0.001, 0.01, 1,2, 2.112121 .... 等等}。

随机变量的概率分布

现在问题来了，如何描述随机变量的行为？

假设我们的随机变量只取有限值，如 x ₁ 、 x ₂ 、 x ₃ ...。和 x _n 。也就是说， X的范围是n个值的集合是{x ₁ , x ₂ , x ₃ ...。和 x _n }。

因此， X的行为完全通过给出随机变量X的所有值的概率来描述

Event	Probability
x₁	Pr(X = x₁)
x₂	Pr(X = x₂)
x₃	Pr(X = x₃)

离散随机变量 X 的概率函数是函数p(x) 满足

p(x) = Pr(X = x)

让我们看一个例子：

问题：我们从一副洗好的 52 张牌中依次抽出两张牌。找出找到 A 的概率分布。

回答：

Let’s define a random variable “X”, which means number of aces. So since we are only drawing two cards form the deck, X can only take three values: 0, 1 and 2. We also know that, we are drawing cards with replacement which means that the two draws can be considered an independent experiments.

P(X = 0) = P(both cards are non-aces)

= P(non-ace) x P(non-ace)

= $\frac{48}{52} \times \frac{48}{52} = \frac {144}{169}$

P(X = 1) = P(one of the cards in ace)

= P(non-ace and then ace) + P(ace and then non-ace)

= P(non-ace) x P(ace) + P(ace) x P(non-ace)

= $\frac{48}{52} \times \frac{4}{52} + \frac{4}{52} \times \frac{48}{52} = \frac{24}{169}$

P(X = 2) = P(Both the cards are aces)

= P(ace) x P(ace)

= $\frac{4}{52} \times \frac{4}{52} = \frac{1}{169}$

Now we have probabilities for each value of random variable. Since it is discrete, we can make a table to represent this distribution. The table is given below.

编程需要懂一点英语

X	0	1	2
Pr	$\frac{144}{169}$	$\frac{24}{169}$	$\frac{1}{169}$

随机变量的期望（均值）和方差

假设我们正在执行一个概率实验，并且我们已经根据我们的需要定义了一些随机变量 (RV)（就像我们在前面的一些示例中所做的那样）。现在，每次进行实验时，我们的 RV 都会采用不同的值。但是我们想知道，如果我们继续做一千次或无限次的实验，随机变量的平均值是多少？

期待

随机变量X的均值、期望值或期望值写为 E( X ) 或 $\mu_{\textbf{X}}$ .如果我们观察到X的 N 个随机值，那么对于大的 N，N 个值的平均值将近似等于 E(X)。

For a random variable X which takes on values x₁, x_2,x_{3 …}x_n with probabilities p₁, p₂, p₃ … p_n. Expectation of X is defined as,

$\sum_{i=1}^{N} x_{i}p_{i}$

i.e it is weighted average of all values which X can take, weighted by the probability of each value.

编程需要懂一点英语

为了更直观地看到它，让我们看一下下面的这张图，

现在在上图中，我们可以看到两个随机变量的“均值”几乎相同，但这是否意味着它们相等？不。要完全描述随机变量的属性/行为，我们需要更多的东西，对吧？

我们需要看一下概率分布的分散性，其中一个是集中的，而另一个在单个值附近非常分散。所以我们需要一个度量来衡量图中的离散度。

方差

在统计学中，我们研究过方差是数据中散布或分散的量度。同样，随机变量值的可变性或分布可以通过方差来衡量。

For a random variable X which takes on values x₁, x₂, x₃ … x_n with probabilities p₁, p₂, p₃ … p_n and the expectation is E[X]

The variance of X or Var(X) is denoted by, $E[X - u]^{2} = \sum (x_{i}-\mu)^{2}p_{x_{i}} = E[X^{2}] - (E[X])^{2}$

编程需要懂一点英语

让我们通过一个例子来计算一个随机变量概率分布的均值和方差：

问题：求掷出无偏骰子所获得数字的方差和均值。

回答：

We know that the sample space of this experiment is {1,2,3,4,5,6}

Let’s define our random variable X, which represents the number obtained on a throw.

So, the probabilities of the values which our random variable can take are,

P(1) = P(2) = P(3) = P(4) = P(5) = P(6) = $\frac{1}{6}$

Therefore, the probability distribution of the random variable is,

X	1	2	3	4	5	6
Probabilities	$\frac{1}{6}$	$\frac{1}{6 }$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$

E[X] = $\sum p_{x_{i}}x_{i} \\ \hspace{0.9cm} = 1 \times \frac{1}{6} + 2 \times \frac{1}{6} + 3 \times \frac{1}{6} + 4 \times \frac{1}{6} + 5 \times \frac{1}{6} + 6 \times \frac{1}{6} \\ \hspace{0.9cm} = \frac{21}{6}$

Also, E[X²] = $1^{2} \times \frac{1}{6} + 2^{2}\times\frac{1}{6} + 3^{2}\times\frac{1}{6} + 4^{2}\times\frac{1}{6} + 5^{2}\times\frac{1}{6} + 6^{2}\times\frac{1}{6} \\ \hspace{0.9cm} = \frac{91}{6} \\$

Thus, Var(X) = E[X²] – (E[X])²

= $(\frac{91}{6}) - (\frac{21}{6})^{2} = \frac{91}{6} - \frac{441}{36} = \frac{35}{12}$

So, therefore mean is $\frac{21}{6}$ and variance is $\frac{35}{12}$

编程需要懂一点英语

不同类型的概率分布

我们已经看到了概率分布是什么，现在我们将看到不同类型的概率分布。概率分布类型由随机变量的类型决定。有两种类型的概率分布：

离散变量的离散概率分布
连续变量的概率密度函数

我们将详细研究两种类型的离散概率分布，其他的不在第 12 课的范围内。

离散概率分布

离散概率函数采用离散数量的值。例如，抛硬币和事件计数是离散函数。这些是离散分布，因为没有中间值。我们可以在抛硬币中有正面或反面。

对于离散概率分布函数，每个可能的值都有一个非零概率。此外，随机变量的所有值的概率之和必须为 1。例如，在骰子上滚动特定数字的概率是 1/6。所有六个值的总概率等于一。当我们掷骰子时，我们只能得到这些值中的一个。

伯努利试验和二项分布

许多实验只有两种结果之一。例如，投掷的硬币显示“头”或“尾”，制成品可以是“有缺陷的”或“无缺陷的”。在这些情况下，我们可以称其中一个结果为“成功”，另一个为“失败”。假设在抛硬币实验中，如果出现正面被认为是成功的，那么出现尾部是失败的。

每次我们掷硬币或掷骰子或进行任何其他实验时，我们都称其为试验。现在我们知道，在我们的掷硬币试验中，任何试验的结果都独立于任何其他试验的结果。在每次这样的试验中，成功或失败的概率保持不变。这种只有两种结果的独立试验通常称为“成功”或“失败”，称为伯努利试验。

定义：

Trials of the random experiment are known as Bernoulli trials, if they are satisfying below given conditions :

Finite number of trials are required.
All trials must be independent.
Every trial has two outcomes : success or failure.
Probability of success remains same in every trial.

编程需要懂一点英语

我们以掷骰子的实验为例，掷骰子50次可以认为是50次伯努利试验的情况，每次试验的结果要么成功（假设得到偶数为成功）要么失败（同样，获得奇数是失败），并且成功的概率（p）对于所有 50 次投掷都是相同的。显然，连续掷骰子是独立的试验。如果骰子是公平的并且有六个数字 1 到 6 写在六个面上，那么 p = 1/2 和 q = 1 – p =1/2 = 失败的概率。

问题：一个瓮中有 8 个红球和 10 个黑球。我们从罐子里依次抽出六个球。当每次抽球后，你必须判断抽球试验是否是伯努利试验，抽出的球是：

更换
没有被替换在骨灰盒中。

回答：

We know that the number of trials are finite. When drawing is done with replacement, probability of success (say, red ball) is p =8/18 which will be same for all of the six trials. So, drawing of balls with replacements are Bernoulli trials.
If drawing is done without replacement, probability of success (i.e., red ball) in the first trial is 8/18 , in 2nd trial is 7/17 if first ball drawn is red or, 10/18 if first ball drawn is black, and so on. Clearly, probabilities of success are not same for all the trials, Therefore, the trials are not Bernoulli trials.

编程需要懂一点英语

二项分布

它是一个随机变量，表示在伯努利实验的“N”次连续独立试验中成功的次数。它用于大量实例，例如包括“N”次硬币翻转中正面的数量等等。

让 P 和 Q 表示伯努利试验的成功和失败。假设我们有兴趣找到在所有六次试验中取得 1 次成功的不同方法。

显然，有以下六种情况可供选择：

PQQQQQ、QPQQQQ、QQPQQQ、QQQPQQ、QQQQPQ、QQQQQP

同样，将显示 2 个成功和 4 个失败 $\frac{6!}{4! 2!}$ 组合。这么多组合很难一一列举。此后，计算 0、1、2、...、n 次成功的概率可能会很长且很耗时。为了避免如此冗长的计算以及列出所有可能的情况，对于 n-Bernoulli 试验中成功次数的概率，制定了一个公式：

如果 Y 是二项式随机变量，我们将这个 Y∼ Bin(n, p) 表示，其中 p 是给定试验中成功的概率，q 是失败的概率，设“n”是试验的总数，并且'x' 是成功的次数。二项式随机变量具有以下性质：

P(Y) = ⁿ C _x q ^n–x p ^x

现在概率函数P(Y) 被称为二项分布的概率函数。

问题：当一个公平的硬币被抛 10 次时，概率：

正好六个头
至少六个头

答案：

Every coin tossed can be considered as the Bernoulli trial . Suppose X be the number of heads in this experiment:

We already know, n = 10

p = 1/2

So, P(X = x) = ⁿC_x p^n-x (1-p)^x, x= 0,1,2,3,….n

P(X = x) = ¹⁰C_xp^10-x(1-p)^x

When x = 6,

(i) P(x = 6) = ¹⁰C₆ p⁴ (1-p)⁶

= $\frac{10!}{6!4!}(\frac{1}{2})^{6}(\frac{1}{2})^{4}\\ \hspace{0.4cm} = \frac{7\times8\times9\times10}{2\times3\times4}\times\frac{1}{64}\times\frac{1}{16} \\ \hspace{0.4cm} = \frac{105}{512}$

(ii) P(at least 6 heads) = P(X >= 6) = P(X = 6) + P(X=7) + P(X=8)+ P(X=9) + P(X=10)

= ¹⁰C₆ p⁴(1-p)⁶+ ¹⁰C₇p³(1-p)⁷ + ¹⁰C₈p²(1-p)⁸+ ¹⁰C₉p¹(1-p)⁹ + ¹⁰C₁₀(1-p)¹⁰=

$\frac{10!}{6!4!}(\frac{1}{2})^{10} + \frac{10!}{7!3!}(\frac{1}{2})^{10} + \frac{10!}{8!2!}(\frac{1}{2})^{10} + \frac{10!}{9!1!}(\frac{1}{2})^{10} + \frac{10!}{10!}(\frac{1}{2})^{10}\\ \hspace{0.5cm} = (\frac{10!}{6!4!} + \frac{10!}{7!3!}+ \frac{10!}{8!2!} + \frac{10!}{9!1!}+ \frac{10!}{10!})(\frac{1}{2})^{10} \\ \hspace{0.5cm} = \frac{193}{512}$

编程需要懂一点英语