问概率论和统计学之间的联系？

EN

你好，亲爱的StackOverFlow。

关于概率论和统计学的交集，我有几个概念性的问题。

我已经知道了概率和统计之间的几个基本概念联系。例如，我知道在统计学中，我们使用一个样本来推断人口概率分布的参数，然后我们可以用它来评估未来事件的概率。换句话说，统计数据采用“后向”观点，使用收集到的数据推断出人口参数，这些参数随后被用于对未来结果概率的“前瞻”观点。

我知道从样本中推断总体参数的过程可能需要极大似然估计。例如，如果我们处理线性回归，我们将使用正态分布的概率密度函数，并将参数(均值和方差)的估计与线性回归方程(b0 + b1*x)插入到正态分布的pdf中，以确定似然估计。最后一组参数估计是使似然估计最大化的参数。

我的总体观点是，我们使用概率论中的概念，例如概率密度函数，我们将其应用于统计，以便有一个基于数据的理由，将具体的参数值分配给我们所使用的概率分布，并给出这些参数估计值，我们对未来结果的可能可能性进行评估。

然而，接下来的问题是，我很难将概率论的更多方面与统计学中使用的概念联系起来。例如，我知道联合概率分布用于确定边际概率和条件概率，条件概率用于线性回归。但我对两者之间的联系缺乏充分的了解。

例如，联合概率分布是协方差矩阵的基础吗？联合概率分布和边际分布在统计中是如何相关的(我知道条件概率分布是如何相关的)？

还是我正朝一个完全错误的方向看？我问错问题了吗？概率论和统计又用什么方式联系起来呢？我在寻找深度的知识，寻找实质性的知识。如果有任何文献不是数学太重，而是更注重概率论和统计分析之间的联系，我会很高兴的。