您现在的位置是:首页 > 正文

协方差矩阵 多元高斯分布

2024-04-01 00:17:09阅读 2

协方差矩阵

对于一维随机变量直接用方差即可衡量随机变量x与其期望E(x)的偏离程度,对于多维随机变量X,需要用一个矩阵来表示偏离程度,矩阵的对角线是每个维度自己的方差,对角线以外表示不同的维度之间的协方差,所以协方差矩阵是实对称矩阵。

协方差矩阵的计算公式

所以有如下性质:

如果随机向量Y=PX,其中XY为随机向量,P为矩阵(方阵)

也就是

多元高斯分布

一元高斯分布概率密度函数如下:

多元高斯分布为:

具体推导过程可以参考:从零开始推导多元高斯分布 - 知乎

多元高斯分布完全解析 - 知乎

主要的更改是把方差换成了协方差矩阵,2的次方换成n次,n为X向量的维数。

如果协方差矩阵是对角阵,则X向量的每一维彼此独立,互相概率不影响,高维的不好想象可以想象二维的,此时X随机变量的概率密度函数是一个立体的高斯,其平行于坐标平面的截面是一个圆。

如果协方差矩阵除对角线外其他位置为非零,则X向量存在彼此不独立的维,拿二维举例,此时X随机变量的概率密度函数是一个立体的高斯,其平行于坐标平面的截面是一个椭圆,且椭圆的长轴不与坐标轴平行,即椭圆是倾斜的。

根据线性代数的知识可知,由于协方差矩阵为实对称矩阵,所以必定可以用单位正交矩阵相似对角化,根据Y=PX,则,可知,只需要求出协方差矩阵的特征值,并进一步求出单位正交矩阵P,就可以将X向量转换为Y向量,此时Y向量的协方差矩阵Cov(Y)就是经过Cov(X)相似对角化所得,所以是对角阵,所以Y向量的每个维度相互独立,也就是X向量可以经过线性变换由每个维度相互不独立转换成相互独立,对于二维来说,就是概率密度函数的截面由倾斜的椭圆转换成不倾斜的椭圆。

另外协方差矩阵为非负定矩阵,也就是半正定阵(正定的定义见实对称矩阵 二次型 合同 相似对角化_吾生也有涯,而知也无涯-CSDN博客),证明如下:

第二行左边乘以一个矩阵的转置,右边乘以一个矩阵,是参考正定的定义来的,只要证明其结果大于等于0,即为半正定阵,

最后的结果中是一个数,转置之后还是一个数,所以相当于求一个数平方的期望,肯定是大于等于0的,所以为半正定阵。

网站文章

  • JAVA线程池

    JAVA线程池

    目录池的思想JDK中线程池的使用线程池的核心父接口ExecutorService ThreadPoolExecutor子类的核心构造方法参数

    2024-04-01 00:17:03
  • 影响未来十年的10项互联网新技术

    影响未来十年的10项互联网新技术

    影响未来十年的10项互联网新技术 最近InfoWorld网站公布了可能影响未来十年的十项新技术。虽然每个人的观点会有不同,但是我们相信,这十项新技术足以代表大部分的观点,同时也可以确信在未来几年这十项技术能给我们生活带来翻天覆地的变化。1.私有云技术IT经理可以借由公共云提供商首创的技术和架构,并把它们应用到自己的数据中心。私有云,往往有许多移动部件,包括虚拟化管理...

    2024-04-01 00:16:55
  • Ubuntu 安装lnmp+nginx 访问 .php文件变成下载

    Ubuntu 安装lnmp+nginx 访问 .php文件变成下载

    安装NGINXsudo apt-get update#更新源sudo apt-get install nginx #安装nginxsudo service nginx start #启动nginx安装PHPsudo apt-add-repository ppa:ondrej/phpsudo apt-get updatesudo apt-get install php7.2 php7...

    2024-04-01 00:16:31
  • 【华为OD机试】硬件产品销售方案

    某公司目前推出了AI开发者套件,AI加速卡,AI加速模块,AI服务器,智能边缘多种硬件产品,每种产品包含若干个型号。现某合作厂商要采购金额为amount元的硬件产品搭建自己的AI基座。例如当前库存有N种产品,每种产品的库存量充足,给定每种产品的价格,记为price(不存在价格相同的产品型号)。请为合作厂商列出所有可能的产品组合。

    2024-04-01 00:16:23
  • js计算两个时间相差的天数

    js计算日期之间相差天数

    2024-04-01 00:16:16
  • RPC简介

    RPC简介

    RPC简介 一、为什么要有RPC 随着项目业务越来越复杂,业务量越来越大,单个应用或者一台机器的资源肯定是背负不起的。那现在应该怎么做?将核心业务抽取出来,作为独立的服务,放到其他服务器上或者形成集群...

    2024-04-01 00:15:45
  • 设计模式中之七大原则

    设计模式中之七大原则

    目录前言七大原则单一职责原则注意事项和细节接口隔离原则依赖倒转原则依赖关系传递的三种方式注意事项和细节前言本文为尚硅谷韩顺平老师的 Java 设计模式课程的笔记。七大原则单一职责原则接口隔离原则依赖倒...

    2024-04-01 00:15:37
  • PS常用快捷键

    前景色和背景色交换快捷键“X”,默认前景色为黑色,默认背景色为白色,恢复默认快捷键“d”。

    2024-04-01 00:15:30
  • linux下buffer和cache的区别,Linux下buffer和cache的区别【网文】

    linux下buffer和cache的区别,Linux下buffer和cache的区别【网文】

    Page cache和buffer cache一直以来是两个比较容易混淆的概念,在网上也有很多人在争辩和猜想这两个cache到底有什么区别,讨论到最后也一直没有一个统一和正确的结论,在我工作的这一段时...

    2024-04-01 00:15:06
  • docker hub push_Docker 入门:镜像 image

    docker hub push_Docker 入门:镜像 image

    ? 点击上方 雨哥写 python 关注公众号。本文主要内容:什么是镜像下载镜像 pull设置下载加速源查看镜像上传镜像 push? 什么是镜像(image)镜像是一个文件系统,提供了容器运行时需要用到的文件和参数配置。相当于平时在使用某个软件时需要下载的安装包,也相当于安装操作系统时需要用到 ISO 文件。我们可以基于某一个镜像创建多个容器。?下载镜像如果想运行某个 Docker 容器...

    2024-04-01 00:15:01