[Python] KDE图[密度图(Kernel Density Estimate,核密度估计)]介绍和使用场景(案例)

这篇具有很好参考价值的文章主要介绍了[Python] KDE图[密度图(Kernel Density Estimate,核密度估计)]介绍和使用场景(案例)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

KDE图是什么?

核密度估计(Kernel Density Estimate,KDE)是一种非参数统计方法,用于估计未知随机变量的概率分布。它通过在每个数据点附近放置一个核函数,并将这些核函数加总起来,得到对概率分布的估计。

KDE的主要思想是通过在每个数据点附近放置一个核函数来估计概率分布。核函数可以是各种形式,常用的有高斯核、均匀核等。核函数在数据点附近产生一个非负的函数值,表示该点附近的概率密度。然后,将所有核函数的值加总起来,得到整个数据集的概率密度函数。

KDE图可以理解为是对直方图的加窗平滑。KDE图解决了一个基本的数据平滑问题,即根据有限的数据样本对总体进行推断。通过KDE分布图,可以查看并对训练数据集和测试数据集中特征变量的分布情况。

KDE图定义

设 (x1,x2,...,xn) 是从某个单变量分布中抽取的独立同分布样本,在任何给定点 x 具有未知密度 f 。我们有兴趣估计这个函数 f 的形状。它的核密度估计量是:

kde密度图,python,python,KDE,密度分布图

其中 K 是内核——一个非负函数——h > 0 是一个称为带宽的平滑参数。下标为 h 的内核称为缩放内核,定义为 Kh(x) = 1/h K(x/h)。直觉上,人们希望选择数据允许的尽可能小的 h;然而,估计量的偏差与其方差之间总是存在权衡。

通常使用一系列核函数:uniform、triangular、biweight、triweight、Epanechnikov、normal 等。Epanechnikov 内核在均方误差意义上是最优的,尽管前面列出的内核的效率损失很小。 由于其方便的数学性质,常使用正态核,即 K(x) = ϕ(x),其中 ϕ 是标准正态密度函数。核密度估计的构建在密度估计之外的领域找到了解释。 例如,在热力学中,这相当于将热核(热方程的基本解)放置在每个数据点位置 xi 时产生的热量。类似的方法用于在点云上构建离散拉普拉斯算子以进行流形学习(例如扩散图)。

例子

核密度估计与直方图密切相关,但可以通过使用合适的核赋予平滑度或连续性等属性。下图基于这 6 个数据点说明了这种关系:

样品 1 2 3 4 5 6
-2.1 -1.3 -0.4 1.9 5.1 6.2

对于直方图,首先,水平轴被划分为覆盖数据范围的子区间或区间:在这种情况下,每个区间有 6 个宽度为 2 的区间。每当一个数据点落在该区间内时,一个高度为 1 的区间/12 放在那里。如果不止一个数据点落在同一个箱子里,这些箱子就会堆叠在一起。对于核密度估计,将方差为 2.25 的正态核(由红色虚线表示)放置在每个数据点 xi 上。对内核求和以进行内核密度估计(蓝色实线)。核密度估计的平滑性(与直方图的离散性相比)说明了核密度估计如何更快地收敛到连续随机变量的真实基础密度。 

kde密度图,python,python,KDE,密度分布图

使用相同数据构建的直方图(左)和核密度估计(右)的比较。 六个单独的内核是红色虚线,内核密度估计蓝色曲线。 数据点是横轴上的地毯图。

如上图的右图所示,我理解的红色曲线就是基函数,类似于傅里叶函数的基函数叠加形成上面的蓝色曲线。

KDE图使用场景

KDE可以用于多种场景,其中一些案例包括:

  1. 数据可视化:KDE可以用来绘制密度图,可以清晰地展示数据分布的形态。例如,在金融领域,可以使用KDE绘制股票收益率的密度图,以帮助理解收益率的分布情况。

  2. 数据挖掘:KDE可以用于异常检测。通过估计数据的概率密度分布,可以确定哪些数据点的概率较低,从而识别出异常点。例如,在网络安全领域,可以使用KDE来检测网络流量中的异常活动。

  3. 信号处理:KDE可以用于信号处理中的噪声估计。通过估计信号的概率密度分布,可以确定噪声的分布情况,进而进行噪声滤波等操作。

KDE图使用案例

在这个例子中,我们导入了tips数据集,并使用sns.kdeplot()函数绘制了total_bill变量的KDE图和直方图。可以使用title()和xlabel()函数设置图表标题和轴标签。最后,使用plt.show()函数显示图表。

import matplotlib.pyplot as plt
import seaborn as sns

# 导入数据集
tips = sns.load_dataset('tips')
tips

kde密度图,python,python,KDE,密度分布图

# 绘制KDE图
sns.kdeplot(data=tips, x='total_bill')

# 设置图表标题和轴标签
plt.title('KDE Plot of Total Bill')
plt.xlabel('Total Bill')

# 显示图表
plt.show()

kde密度图,python,python,KDE,密度分布图

# 绘制直方图
sns.histplot(data=tips, x='total_bill')

# 设置图表标题和轴标签
plt.title('Hist Plot of Total Bill')
plt.xlabel('Total Bill')

# 显示图表
plt.show()

kde密度图,python,python,KDE,密度分布图

结论

总之,KDE是一种非参数统计方法,可以用于估计未知随机变量的概率分布。它在数据可视化、数据挖掘和信号处理等领域都有广泛的应用。

参考资料

KDE: Kernel density estimation 核密度估计文章来源地址https://www.toymoban.com/news/detail-835749.html

到了这里,关于[Python] KDE图[密度图(Kernel Density Estimate,核密度估计)]介绍和使用场景(案例)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 密度峰值聚类算法DPC(Density Peak Clustering)理论基础与python实现

    基于密度峰值的聚类算法全称为基于快速搜索和发现密度峰值的聚类算法(clustering by fast search and find of density peaks, DPC)。它是2014年在Science上提出的聚类算法,该算法能够自动地发现簇中心,实现任意形状数据的高效聚类。 密度峰值聚类算法是对K-Means算法的一种改进,回顾K

    2024年02月16日
    浏览(24)
  • 【聚类算法】密度峰值聚类算法DPC(Density Peak Clustering Algorithm)

    every blog every motto: You can do more than you think. https://blog.csdn.net/weixin_39190382?type=blog 密度峰值聚类算法(Density Peak Clustering Algorithm),能够自动发现数据中的密度峰值点,并根据峰值点将数据进行聚类,该算法由Alex Rodriguez和Alessandro Laio于2014年提出。发表science https://www.science.org

    2024年02月15日
    浏览(29)
  • 核密度估计(二维、三维)

    核密度估计是通过平滑的峰值函数来拟合样本数据,利用连续的密度曲线描述随机变量的分布形态,具有稳健性强、模型依赖性弱的特性。现在已经被广泛的应用到动态演进分析当中,核密度估计通常有二维、三维表现形式,如下图: (上述图片分别取自于陈明华, 刘文斐

    2024年02月16日
    浏览(25)
  • 非参数检验方法,核密度估计简介

    在20世纪,统计学还处于起步阶段计算机还不是那么流行的时候,假设正态分布是生成数据的标准。这主要是因为在那个所有结果都是手工计算的时代,正态分布可以使计算不那么繁琐。 但在这个大数据时代,随着计算能力的提高,数据的可用性使得统计学家采用了更现代的

    2024年02月07日
    浏览(31)
  • 现代信号处理-现代功率谱密度估计AR模型

    本栏前两节经典谱估计中提到: 经典谱估计下,方差和分辨率是一对矛盾 。这是因为经典谱估计将数据进行了加窗,自相关法还对自相关进行了加窗(二次加窗),这就让我们想到把 原始数据藏在一个系统H(Z)中 ,让这个系统包含这组数据的特性,这样一来,系统中的系数

    2024年02月07日
    浏览(53)
  • 【机器学习sklearn】两个例子轻松搞懂核密度估计KernelDensity

            作业中遇到了需要使用KernelDensity的情况,但是网上的资料参差不齐,找了不短的时间却失望而归,最后还是靠着自己的理解才弄懂sklearn这个函数的使用,特此纪念。 【机器学习sklearn】两个例子轻松搞懂核密度估计KernelDensity 前言 官方文档 官方Sample解读 直方图 核密

    2023年04月21日
    浏览(27)
  • MATLAB | 频谱分析算法 | Welch功率谱密度估计 | 附数据和出图代码 | 直接上手

    有意向获取代码,请转文末观看代码获取方式~ Welch功率谱密度估计是一种基于信号分段平均的频谱估计方法,它可以对时域信号进行频谱分析,得到信号在不同频率上的能量分布。Welch功率谱密度估计在信号处理、通信、声学等领域得到广泛应用,相比于传统的频谱估计方法

    2024年04月16日
    浏览(30)
  • R语言使用car包的scatterplotMatrix函数可视化散点图矩阵(包含多个变量的散点图)、可视化变量之间的相关性、在对角线添加变量核密度估计

    目录 R语言使用car包的scatterplotMatrix函数可视化散点图矩阵(包含多个变量的散点图)、可视化变量之间的相关性、在对角线添加变量核密度估计 仿真数据

    2024年02月04日
    浏览(33)
  • 区间预测 | Matlab实现GRU-Adaboost-ABKDE的集成门控循环单元自适应带宽核密度估计多变量回归区间预测

    效果一览 基本介绍 1.Matlab实现GRU-Adaboost-ABKDE的集成门控循环单元自适应带宽核密度估计多变量回归区间预测(完整源码和数据) 2.GRU-Adaboost-ABKDE的集成门控循环单元自适应带宽核密度估计多变量回归区间预测(点预测+概率预测+核密度估计) Matlab语言 3.多变量单输出,包括点

    2024年01月22日
    浏览(32)
  • 区间预测 | Matlab实现LSSVM-ABKDE的最小二乘支持向量机结合自适应带宽核密度估计多变量回归区间预测

    效果一览 基本介绍 1.Matlab实现LSSVM-ABKDE基于最小二乘支持向量机结合自适应带宽核函数密度估计的多变量回归区间预测(完整源码和数据) 2.LSSVM-ABKDE基于最小二乘支持向量机结合自适应带宽核函数密度估计的多变量回归预测(点预测+概率预测+核密度估计) Matlab语言 3.多变

    2024年01月17日
    浏览(35)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包