计算机视觉基础知识(十二)--神经网络与深度学习

这篇具有很好参考价值的文章主要介绍了计算机视觉基础知识(十二)--神经网络与深度学习。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1.神经网络

  • 一种机器学习的算法
  • 一般有输入层-->隐藏层-->输出层
  • 隐藏层数量多于两个的称为深度神经网络;
  • 输入的是特征向量;
  • 特征向量代表的是变化的方向;
  • 或者说是最能代表这个事物的特征方向;
  • 权重是特征值,有正有负,加强或抑制;
  • 权重的绝对值大小,代表输入信号对神经元的影响大小

什么是神经网络

  • 人是怎么思考的?--生物神经网络

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

  •  由相互联系的神经元组成;
  • 神经元具有权重;
  • 根据训练期间的错误更新偏差;
  • 找到一个未知函数的近似解;

感知器 

  1. 外部刺激通过神经末梢,转为电信号
  2. 电信号传导到神经细胞(又称神经元)
  3. 无数神经元构成神经中枢
  4. 神经中枢综合各种信号,给出判断
  5. 人体根据神经中枢指令,对外部刺激作出反应.

生物神经网络基本工作原理

  • 一个神经元的输入端有多个树突;
  • 树突主要用来接收输入信息;
  • 突触累加信息;
  • 累加的信息大于特定的阈值时;
  • 轴突会把信息传输出去;
  • 此时称为神经元被激活;
  • 相反,处理后的输入信息小于阈值,神经元处于抑制状态;

人工神经网络

  1. 接收来自其他n个神经元传递的信号;
  2. 这些信号与相应的权重进行加权求和,并传递给下个阶段(预激活阶段);
  3. 加权结果(也称为预激活的加权)传递给激活函数;

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能 

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能 计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

人工神经网络与生物神经网络的不同 

  • 人脑中的一个神经元可连接一定距离内的任意神经元;
  • 人工神经网络具有离散的层\连接和数据传播的方向

神经元

  • 组成神经元网络的最基本单位;
  • 起初来源于人体,模仿人体的神经元;
  • 功能与人体的神经元一致;
  • 对得到的信号,经数据处理;
  • 给出一个结果作为输出;
  • 或者作为下一个神经元的输入

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

  • 当h大于0时输出1;
  • 当h小于0时输出0;
  • 实质是把特征空间一切两半;
  • 每一半分属不同的类; 

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

  • 神经元的缺点:只能一刀切;
  • 解决方法:多层神经网络;

人工神经网络的实现

  • 神经网络是一种运算模型;
  • 由大量的节点(神经元)和其间的相互连接构成;
  • 两个节点之间的连接具有一个权重;
  • 权重相当于人工神经网络的记忆;
  • 输出依赖于网络的连接方式,权重和激励函数的不同而不同;
  • 网络本身是对自然界某种算法或者函数的逼近;
  • 也可能是对一种逻辑策略的表达

多层神经网络

  • 由多个神经元组合而成;
  • 前一个神经元的结果作为后一个神经元的输入;
  • 任何多层网络可以用三层网络近似表示;
  • 根据经验确定隐藏层应该有多少个节点;
  • 根据测试的效果调整隐藏层节点数量;

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

前馈神经网络

  •  也称多层感知机;
  • 人工神经网络主要考虑网络链接的拓扑结构\神经元特征\学习规则等;

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

2.激活函数

  • 神经网络设计的一个核心单元;
  • 处于活跃状态的神经元成为激活态;
  • 非活跃的神经元成为抑制态;
  • 激活函数赋予神经元自我学习和适应的能力;
  • 激活函数的作用为了在网络中引入非线性的学习和处理能力;

常用的激活函数

  • sigmoid函数:计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能
  • tanh函数:计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能
  • ReLU函数:

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

 计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

激活函数的作用

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能 

sigmoid的主要缺点

  •  梯度饱和,两边数值的梯度都为0;
  • 结果的平均值不为0,会导致后层神经元输入非零均值信号,对梯度产生影响

 reLU

  • 起源于神经科学的研究;
  • 从生物学角度模拟了脑神经接受信号更精确的激活模型

激活函数比较

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

神经元稀疏

  •  ReLU函数是分段线性函数;
  • 把所有的负值变为0,正值不变;
  • 这种操作称为单侧抑制;
  • 因为单侧抑制,网络中的神经元具有稀疏激活性;
  • 模型增加N层后,理论上ReLU神经元的激活率降低2的N次方倍;

张量

  • 算法的运行依赖数据结构;
  • 张量将各种数据统一封装并输入网络;
  • 不同情况下有不同存在形式的张量;
  • 张量的一大特征是维度;
  • 0维张量是一个常量;
  • python中读取ndim获取张量维度;
  • 数组等价一维张量;
  • 二维数组等价一个二维张量;
  • n维张量本质是一维数组,数组中的元素都是n-1维张量

设计神经网络

  1. 确定网络的层数;
  2. 确定每层单元个数;
  3. 将特征向量归一化,加速学习过程;
  4. 编码离散变量,每一个输入单元对应一个可能特征值;
  5. 可以解决分类问题(classification)
  6. 也可解决回归问题(regression)
  7. 两分类问题的输出表示:[0,1];
  8. 多分类问题的输出表示:[1 0 0 0 0 0];
  9. 确定隐藏层的数量没有规则;
  10. 根据实验测试和误差精准度不断调整改进.

感性认识隐含层

  • 输入层的每个节点代表图片的某一像素;
  • 输入层的节点个数为像素点的个数;
  • 输出层为一个单一节点,标示0和1;
  • 对人脸识别的问题;
  • 问题分解:
  • 上方有头发;
  • 左上\右上各有一个眼睛;
  • 中间有鼻子
  • 下方中间有嘴巴
  • 左右两侧有耳朵
  • 综合上述问题的结果:
  • 大部分为1,判定为人脸;

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

  • 子网络继续分解为解决更为简单的问题. 
  • 一层层的分解;
  • 直到一个神经元能回答一个简单的问题;

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能 

3.深度学习

深度神经网络&深度学习

  • 传统的神经网络发展到了多隐藏层结构
  • 具有多个隐藏层的网络称为深度神经网络;
  • 基于深度神经网络的机器学习称为深度学习

机器学习

  • 是人工智能的核心;
  • 研究如何使用机器来模拟人类学习活动的一门学科;
  • 一种实现人工智能的方法;
  • 是一门多领域交叉学科;
  • 涉及概率论\统计学\逼近论\凸分析\算法复杂度理论等多门学科
  • 使计算机具有智能的根本途径
  • 应用遍及人工智能的各个领域
  • 主要使用归纳\综合而不是演绎

深度学习

  • 多层人工神经网络
  • 是机器学习的分支
  • 对数据进行表征学习的方法
  • 一种实现机器学习的技术;
  • 将模型处理得更加复杂;
  • 使模型对数据的理解更为深入;
  • 动机在于建立\模拟人脑进行分析学习的神经网络
  • 模仿人脑的机制来解释数据;
  • 实质是通过构建具有多隐藏层的机器学习模型;
  • 以及海量的训练数据
  • 学习更有用的特征
  • 最终提升分类或预测的准确性
  • 最重要的作用是表征学习,
  • 学习层级化的特征

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能 

  • 数据规模推动深度学习进步; 

 计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

人工智能关系圈

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能

计算机视觉基础知识(十二)--神经网络与深度学习,图像识别,计算机视觉,人工智能文章来源地址https://www.toymoban.com/news/detail-832745.html

到了这里,关于计算机视觉基础知识(十二)--神经网络与深度学习的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【计算机视觉|人脸建模】3D人脸重建基础知识(入门)

    本系列博文为深度学习/计算机视觉论文笔记,转载请注明出处 三维重建(3D Reconstruction)是指根据单视图或者多视图的图像重建三维信息的过程。 人工几何模型 仪器采集 基于图像的建模 描述 基于几何建模软件通过人机交互生成物体三维几何模型 基于结构光和激光扫描技术

    2024年02月14日
    浏览(55)
  • 计算机基础知识

    参考链接:https://blog.csdn.net/ChineseSoftware/article/details/123176978 https://www.cnblogs.com/8023-CHD/p/11067141.html https://blog.csdn.net/qq_42033567/article/details/108088514 http与https的区别 HTTP 的URL以http:// 开头,而HTTPS 的URL 以https:// 开头 HTTP的默认端口是80,而HTTPS的默认端口是443 在OSI网络模型中,HTT

    2024年02月10日
    浏览(58)
  • 计算机基础——TCP基础知识

    16位源端口号 16位目的端口号 32位序号 32位确认号 4位头部长度 6位保留 URG ACK PSH RST SYN FIN 16位窗口大小 16位校验和 16位紧急指针 选项(长度可变) 填充 16位端口号 :源端口号,主机该报文段是来自哪里;目标端口号,要传给哪个上层协议或应用程序 32位序号 :一次TCP通信(

    2024年01月20日
    浏览(67)
  • 计算机基础知识(基础入门小白专属)

    ♥️ 作者:小刘在这里 ♥️ 每天分享云计算网络运维课堂笔记,疫情之下,你我素未谋面,但你一定要平平安安,一  起努力,共赴美好人生! ♥️ 夕阳下,是最美的,绽放,愿所有的美好,再疫情结束后如约而至。 目录 计算机的发展史 计算机的硬件组成 计算机的分类

    2024年02月08日
    浏览(53)
  • 计算机基础知识题精选

    1.网络钓鱼欺骗是社会工程学的一种方式,下列关于社会工程学的说法中错误的是( ) A.社会工程学利用了人性的弱点;B.社会工程学需要结合常识;C.社会工程学的目的是获取秘密信息;D.谎言越多,社会工程学的欺骗效果越好 正确答案是:D 2.根据恶意代码特征对恶意代码

    2023年04月12日
    浏览(54)
  • 计算机基础知识(基础入门小白专属)二

      ♥️ 作者:小刘在这里 ♥️ 每天分享云计算网络运维课堂笔记,疫情之下,你我素未谋面,但你一定要平平安安,一  起努力,共赴美好人生! ♥️ 夕阳下,是最美的,绽放,愿所有的美好,再疫情结束后如约而至。 目录 vmware workstation  的用法 扩展部分

    2024年02月02日
    浏览(46)
  • 计算机基础知识点汇总

    1、指令是指示计算机执行某种操作的命令,包括操作码和地址码两部分。 2、目前常见的指令系统有复杂指令系统(CISC)和精简指令系统(RISC)。 3、计算机的工作过程:取指令、分析指令、执行指令。 4、未配置任何软件的计算机叫裸机,注意不是指安装过操作系统的计算

    2024年02月10日
    浏览(49)
  • 计算机系统(软考版)----计算机系统基础知识、基本单位与进制(1)

    计算机系统是由 硬件和软件 组成的,它们协同工作来运行程序。计算机的基本硬件系统由 运算器、控制器、存储器、输入设备和输出设备5大部件组成。运算器、控制器等部件被集成在一起统称为中央处理单元(Central Processing Unit,CPU) 。(标黄这个需要记忆) CPU是硬件系统的

    2024年01月22日
    浏览(58)
  • 计算机网络安全基础知识复习

    计算机安全: 对于一个自动化的信息系统,采取措施确保信息系统资源(包括硬件、软件、固件、信息数据和通信)的完整性,可用性和保密性。 目标/服务: 认证;访问控制;数据保密性;数据完整性,不可否认性,可用性. 安全攻击 :任何危及信息系统安全的行为。 安全机

    2024年02月09日
    浏览(45)
  • 深度学习·理论篇(2023版)·第002篇深度学习和计算机视觉中的基础数学知识01:线性变换的定义+基于角度的线性变换案例(坐标变换)+点积和投影+矩阵乘法的几何意义+图形化精讲

    💕 恭喜本博客浏览量达到两百万,CSDN内容合伙人,CSDN人工智能领域实力新星~ 🧡 本文章为2021版本迭代更新版本,在结合有效知识的基础上对文章进行合理的增加,使得整个文章时刻顺应时代需要 🧡 本专栏将通过系统的深度学习实例,从可解释性的角度对深度学习的原理

    2023年04月08日
    浏览(50)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包