1. Toy模板网首页
  2. > Toy博客

清华青年AI自强作业hw3_1：用线性回归模型拟合MNIST手写数字分类

10月前 作者：来知晓 分类：Toy博客 阅读(44) 违法举报

这篇具有很好参考价值的文章主要介绍了清华青年AI自强作业hw3_1：用线性回归模型拟合MNIST手写数字分类。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

清华青年AI自强作业hw3_1：用线性回归模型拟合MNIST手写数字分类

一起学AI系列博客：目录索引

hw3_1：用线性回归模型拟合MNIST手写数字分类

  • 初步体验Tensorflow编程环境
  • 体会用回归模型网络拟合效果

实现过程

尝试后发现hw3_1/hw3_3的参考代码为TF1.x框架代码，升级到TF2.x框架多为不便（升级踩坑记录），于是采用TF2.x中的keras框架重新写了一遍。

思路分析

  1. 先学习参考代码的框架思路
  2. 研究MNIST的Keras训练流程
  3. 进行改造和适配完成本次任务

逻辑回归二分类模型

  1. 核心思路
    1. 用逻辑回归的二分类模型分别训练十个模型，分别处理0-9的分类
  2. MNIST数据预处理(load)
    1. 读取MNIST数据，调整处理成网络能接受的batch切分，训练集、测试集划分，标签匹配
  3. 模型训练过程(train)
    1. 模型搭建
      1. 模型为WX+B，第一层为输入层(784个神经元)，第二层为输出层(1个神经元)，二分类逻辑回归
      2. 单个类别神经网络层数设置、学习率、梯度下降方法、loss设置
      3. 保存每个batch的model参数，并获取测试集上的最新识别率，此时不开启反向传播更新参数
    2. 模型训练
      1. 前向推理与模型参数更新
      2. 按规律预测测试集的精度
  4. 模型推理过程(predict)
    1. 在测试集上验证预测精度
  5. 关键点
    1. 涉及到数据标签的one-hot编码理解

训练结果分析

从训练结果来看，用60000张图片训练图片得到的模型，再用10000张测试图片来评估，该模型预测正确率仅：18.97%，可见此模型设计是不合理的，太过简单，不能很好地表征该复杂任务。下一篇博客将对此模型进行改进，加深网络，便会得到很好的效果。

相应实现源码见代码仓：https://github.com/ioMayday/Tsinghua_Youth_AI/tree/master/homework。

参考资料

  1. https://github.com/AnkushMalaker/TF2-MNIST

  2. MNIST classification with TF2.0 Keras，link

  3. TF2.0的安装与MNIST手写识别的实现，link

  4. 手把手教程：深度学习入门项目MNIST手写数字分类任务，Pytorch实现文章来源地址https://www.toymoban.com/news/detail-499990.html

相关链接

  1. 文科生都能零基础学AI？清华这门免费课程让我信了，link
  2. 清华青年AI自强作业2：线性回归预测，link
  3. 清华青年AI自强作业hw3_2：前向传播和反向传播实战，link

到了这里，关于清华青年AI自强作业hw3_1：用线性回归模型拟合MNIST手写数字分类的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处： 如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：
领支付宝红包 赞助服务器费用

相关文章

  • 【机器学习300问】11、多元线性回归模型和一元线性回归有什么不同？

    【机器学习300问】11、多元线性回归模型和一元线性回归有什么不同？

            在之前的文章中，我们已经学习了一元线性回归模型，其中最关键的参数是w和b。机器学习的目的就是去得到合适w和b后能准确预测未知数据。但现实世界是复杂的，一个事情的发生绝大多数时候不会是一个原因导致。         因此多元线性回归模型区别与一元线

    2024年01月22日
    浏览(46)
  • 【机器学习】线性回归模型详解

    【机器学习】线性回归模型详解

    PS：本文有一定阅读门槛，如果有不明白的地方欢迎评论询问！ 接下来我们将要学习我们的第一个模型——线性回归。比如说我需要根据数据预测某个面积的房子可以卖多少钱 接下来我们会用到以下符号： m:训练样本数量 x:输入值，又称为属性值 y:输出值，是我们需要的结果

    2024年02月03日
    浏览(62)
  • 多元线性回归模型

    多元线性回归模型

    目录 一、一元线性回归之旧轿车价格案例 二、多元线性回归之洞庭湖污染物案例实测 三、说一说plot函数的用法 四、感想 直接上例题 一、一元线性回归之旧轿车价格案 以x表示使用年数，y表示相应平均价格。根据表中x、y的数据，建立一个数据模型，分析旧轿车平均价格与

    2024年02月05日
    浏览(41)

  • 线性回归模型分析学生成绩

    LinearRegression 是线性回归模型的实现类； train_test_split 用于将数据集分成训练集和测试集； cross_val_score 用于交叉验证； r2_score 用于评估模型在测试集上的预测性能。 计算各个特征之间的相关系数，并打印输出 corr_matrix = df.corr() print(corr_matrix) 使用 corr() 方法计算各个特征之间

    2024年02月06日
    浏览(55)
  • 基于Python多元线性回归模型

    基于Python多元线性回归模型

    提示：基于Python的多元线性回归模型 文章目录 前言 一、读取数据 二、建立模型  三、预测新值  四、去截距模型 总结 本文主要是基于多元回归线性模型，然后建立模型和分析，解决多元线性回归模型存在的问题和优化多元线性回归模型，原理就不多讲了，可查看《应用回

    2024年02月07日
    浏览(45)
  • 机器学习10—多元线性回归模型

    机器学习10—多元线性回归模型

    在市场的经济活动中，经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况，也就是一个因变量和几个自变量有依存关系的情况。而且有时几个影响因素主次难以区分，或者有的因素虽属次要，但也不能略去其作用。例如，某一商品的销售量既与人口的增长变化

    2023年04月24日
    浏览(48)
  • 用Pytorch实现线性回归模型

    用Pytorch实现线性回归模型

    前面已经学习过线性模型相关的内容，实现线性模型的过程并没有使用到Pytorch。 这节课主要是利用Pytorch实现线性模型。 学习器训练： 确定模型（函数） 定义损失函数 优化器优化（SGD） 之前用过Pytorch的Tensor进行Forward、Backward计算。 现在利用Pytorch框架来实现。 准备数据集

    2024年01月19日
    浏览(51)

  • 如何对多元线性回归模型调参？

    多元线性回归模型通常不像复杂的机器学习模型那样拥有许多可调节的超参数。然而，仍有一些关键步骤和技巧可以用于优化多元线性回归模型的性能： 特征选择 移除无关特征：通过分析特征与目标变量的关联度，移除与目标变量关联度低的特征。 使用特征选择方法：可以

    2024年01月23日
    浏览(41)
  • Python构建简单线性回归模型教程

    Python构建简单线性回归模型教程

    本文介绍如何构建简单线性回归模型及计算其准确率，最后介绍如何持久化模型。 线性回归表示发现函数使用线性组合表示输入变量。简单线性回归很容易理解，使用了基本的回归技术，一旦理解了这些基本概念，可以更好地学习其他类型的回归模型。 回归用于发现输入变

    2023年04月21日
    浏览(47)
  • [Python中常用的回归模型算法大全：从线性回归到XGBoost]

    [Python中常用的回归模型算法大全：从线性回归到XGBoost]

    在数据科学和机器学习领域，回归分析是一项关键任务，用于预测连续型变量的数值。除了传统的线性回归模型外，Python提供了丰富多样的回归模型算法，适用于各种复杂的数据关系。本文将深入探讨这些回归模型，并介绍一系列常用的非线性回归方法。我们将涵盖多种模型

    2024年02月07日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包，优惠每天领

二维码1

领取红包

二维码2

领红包