pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集

这篇具有很好参考价值的文章主要介绍了pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1.softmax回归

        Softmax回归(Softmax Regression)是一种常见的多分类模型,可以用于将输入变量映射到多个类别的概率分布中。softmax回归是机器学习中非常重要并且经典的模型,虽然叫回归,实际上是一个分类问题

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 1.1分类与回归

        回归是估计一个连续值,分类是预测一个连续的类别

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 示例:

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 1.2从回归到多类分类

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 区别:分类问题从单输出变成了多输出,输出个数为类别个数

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 注:类别可能是一个数,也可能是一串字符串(例如A类,1类等)

一位有效编码:规定的在一个位置上,其值为0或者1,1表示有效,0表示无效,有效的那一位为1,其余位全为0。

1.2.1无校验比例

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 不关心置信度的值是多少,只关心正确类别的置信度的值要远远高于其他非正确类的置信度。

1.2.2校验比例

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 1.2.3softmax和交叉熵损失

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 注:一般来说使用真实概率与预测概率的区别来作为损失

不关心非正确类的预测值,只关心正确类的预测值有多大

1.2.4总结

        softmax回归是一个多分类分类模型

        使用softmax操作得到每个类的预测置信概率,非负且和为1

2.损失函数

        损失函数——用来衡量预测值和真实值之间的区别。

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 2.1常用损失函数

2.1.1 L2 Loss(均方损失)

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 注:当y和y‘ 相距比较远(横轴到零点的距离越远),梯度越大,对参数的更新越多,更新的幅度越大,反之亦然。

2.1.2 L1 Loss(绝对值损失函数)

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 2.1.3 Huber’s Robust Loss(Huber 鲁棒损失)

pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集,pytorch,深度学习,pytorch,学习,神经网络

 3.图片分类数据集

实际操作和代码见链接

3.5. 图像分类数据集 — 动手学深度学习 2.0.0 documentation文章来源地址https://www.toymoban.com/news/detail-609904.html

到了这里,关于pytorch学习-线性神经网络——softmax回归+损失函数+图片分类数据集的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 1、动手学深度学习——线性神经网络:线性回归的实现(从零实现+内置函数实现)

    回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。 在自然科学和社会科学领域, 回归经常用来表示输入和输出之间的关系 。 给定一个数据集,我们的目标是 寻找模型的权重和偏置 , 使得根据模型做出的预测大体符合数据里的真实价格。 输出的

    2024年02月11日
    浏览(36)
  • Pytorch深度学习-----神经网络之线性层用法

    PyTorch深度学习——Anaconda和PyTorch安装 Pytorch深度学习-----数据模块Dataset类 Pytorch深度学习------TensorBoard的使用 Pytorch深度学习------Torchvision中Transforms的使用(ToTensor,Normalize,Resize ,Compose,RandomCrop) Pytorch深度学习------torchvision中dataset数据集的使用(CIFAR10) Pytorch深度学习--

    2024年02月14日
    浏览(25)
  • 动手学深度学习-pytorch版本(二):线性神经网络

    参考引用 动手学深度学习 神经网络的整个训练过程,包括: 定义简单的神经网络架构、数据处理、指定损失函数和如何训练模型 。经典统计学习技术中的 线性回归 和 softmax 回归 可以视为线性神经网络 1.1 线性回归 回归 (regression) 是能为一个或多个自变量与因变量之间关系建

    2024年02月12日
    浏览(38)
  • PyTorch入门学习(十):神经网络-非线性激活

    目录 一、简介 二、常见的非线性激活函数 三、实现非线性激活函数 四、示例:应用非线性激活函数 一、简介 在神经网络中,激活函数的主要目的是引入非线性特性,从而使网络能够对非线性数据建模。如果只使用线性变换,那么整个神经网络就会退化为一个线性模型,因

    2024年02月06日
    浏览(33)
  • 深度学习 GNN图神经网络(四)线性回归之ESOL数据集水溶性预测

    本文旨在使用化合物分子的SMILES字符串进行数据模型训练,对其水溶性的值进行预测。 之前的文章《深度学习 GNN图神经网络(三)模型思想及文献分类案例实战》引用的Cora数据集只有一张图,属于图神经网络的节点分类问题。本文介绍的是多图批量训练的线性回归问题,在

    2024年02月02日
    浏览(32)
  • PyTorch入门学习(十一):神经网络-线性层及其他层介绍

    目录 一、简介 二、PyTorch 中的线性层 三、示例:使用线性层构建神经网络 四、常见的其他层 一、简介 神经网络是由多个层组成的,每一层都包含了一组权重和一个激活函数。每层的作用是将输入数据进行变换,从而最终生成输出。线性层是神经网络中的基本层之一,它执

    2024年02月05日
    浏览(32)
  • python-pytorch基础之神经网络回归

    从上面结果看 第一列是预测的,第二列是实际的,可以查看两列值相差很小,说明模型有效

    2024年02月15日
    浏览(25)
  • 举例说明基于线性回归的单层神经网络网络(以梯度下降算法来求解权重的过程)...

    我们将通过一个简单的例子来说明基于线性回归的单层神经网络,以及如何使用梯度下降算法来求解权重。 假设我们有以下数据集,表示学生的学习时间(小时)与他们的考试分数: 学习时间(X):1, 2, 3, 4, 5 考试分数(Y):2, 4, 6, 8, 10 这是一个线性关系,我们可以使用线

    2024年02月16日
    浏览(74)
  • Python基于PyTorch实现卷积神经网络回归模型(CNN回归算法)项目实战

    说明:这是一个机器学习实战项目(附带 数据+代码+文档+视频讲解 ),如需 数据+代码+文档+视频讲解 可以直接到文章最后获取。 卷积神经网络,简称为卷积网络,与普通神经网络的区别是它的卷积层内的神经元只覆盖输入特征局部范围的单元,具有稀疏连接(sparse connec

    2024年02月15日
    浏览(33)
  • Python基于PyTorch实现循环神经网络回归模型(LSTM回归算法)项目实战

    说明:这是一个机器学习实战项目(附带 数据+代码+文档+视频讲解 ),如需 数据+代码+文档+视频讲解 可以直接到文章最后获取。 LSTM网络是目前更加通用的循环神经网络结构,全称为Long Short-Term Memory,翻译成中文叫作“长‘短记忆’”网络。读的时候,“长”后面要稍

    2024年02月16日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包