逻辑回归(解决分类问题)

这篇具有很好参考价值的文章主要介绍了逻辑回归(解决分类问题)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

定义:逻辑回归是一种用于解决分类问题的统计学习方法。它通过对数据进行建模,预测一个事件发生的概率。逻辑回归通常用于二元分类问题,即将数据分为两个类别。它基于线性回归模型,但使用了逻辑函数(也称为S形函数)来将输出限制在0到1之间,表示事件发生的概率。逻辑回归可以通过最大似然估计或梯度下降等方法来进行参数估计,从而得到一个可以用于分类的模型。

一、逻辑回归入门

在分类肿瘤的例子中,我们将肿瘤分为恶性肿瘤和良性肿瘤。 对于恶性肿瘤赋值1(yes),对良性肿瘤赋值0(no)。并在坐标系中表示出其数据集以及对应的拟合曲线如下:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类  逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

二、逻辑函数(对数几率函数)

        沿用上面的例子,假设原始数据集有一个值为0.7,我们应该如何来在坐标系中表示呢? 我们需要引用一个逻辑函数来描述这些位于0~1中间的数据。

        在所有的二分类问题中,我们需要将实值Z准华为0/1的值,最理想的函数肯定是分段函数(单位阶跃函数):

        但是分段函数不连续,因此不能单调可微调函数转化为线性模型。所以我们希望找到一个用于替代分段函数的“近似替代函数”,希望它能够单调可微。逻辑函数(Sigmoid function)正是这样一个函数:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类                (1)

当我们将逻辑函数作为带入(1)式中可得:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类       (2)

 经过变换后得到:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类   (3)

 若将y视作样本x为正例(恶性肿瘤)的可能性,则1-y是其反比的可能性,两者的比值称为几率(odds),反映了x作为正例的相对可能性。按照通俗的话来说,我们可以视逻辑回归的输出结果为对于给定的输入x情况下输出y=1的概率。

        还是以肿瘤的例子说明:其中x为肿瘤尺寸,y为良性肿瘤0和恶性肿瘤1,如果从上述(2)中得到y=0.7,则说明对于x有70%的概率为恶性肿瘤。  逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

逻辑函数常见形式:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类 

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

三、决策边界

在分类问题中,通过逻辑回归得到的输出只会是确定的整数;我们必须找到一个介于0~1之间的阈值flag作为决策边界。

判断的基本形式如下:通过样本值与flag进行比较来分类;

Is 

Yes:    No:

因此,我们需要确定何时的点;

有逻辑函数的基本变形形式可知在此时必有:

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

因此我们可以将逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类作为决策边界

 逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

 非线性的决策边界

分析决策边界的函数我们不难发现,对于非线性的决策边界我们可以综合多项式回归的知识进行求解。如下图中,使用逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类作为决策边界。

逻辑回归(解决分类问题),人工智能入门,逻辑回归,回归,分类

对于多元线性回归也可以同样推导 文章来源地址https://www.toymoban.com/news/detail-791926.html

到了这里,关于逻辑回归(解决分类问题)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 逻辑回归(解决分类问题)

    定义: 逻辑回归是一种用于解决分类问题的统计学习方法。它通过对数据进行建模,预测一个事件发生的概率。逻辑回归通常用于 二元分类问题 ,即将数据分为两个类别。它 基于线性回归 模型,但使用了逻辑函数(也称为S形函数)来将输出限制在0到1之间,表示事件发生

    2024年01月15日
    浏览(32)
  • 【人工智能】监督学习、分类问题、决策树、信息增益

    什么是决策树 —— 基本概念 非叶节点:一个属性上的测试,每个分枝代表该测试的输出 叶节点:存放一个类标记 规则:从根节点到叶节点的一条属性取值路径 模型训练:从已有数据中生成一棵决策树 分裂数据的特征,寻找决策类别的路径 相同的数据,根据不同的特征顺

    2024年02月16日
    浏览(50)
  • 人工智能学习与实训笔记(二):神经网络之图像分类问题

    人工智能专栏文章汇总:人工智能学习专栏文章汇总-CSDN博客 目录 二、图像分类问题 2.1 尝试使用全连接神经网络 2.2 引入卷积神经网络  2.3 分类函数Softmax 2.4 交叉熵损失函数 2.5 学习率优化算法 2.6 图像预处理算法 2.6.1 随机改变亮暗、对比度和颜色等 2.6.2 随机填充 2.6.

    2024年02月20日
    浏览(46)
  • 人工智能与人类智能的解决问题能力在人工智能应用领域的实践

    人工智能(Artificial Intelligence, AI)是一门研究如何让计算机模拟人类智能行为的科学。人类智能包括学习、理解语言、认知、决策等多种能力。人工智能的目标是让计算机具备类似于人类智能的能力,以解决复杂的问题。 在过去的几十年里,人工智能技术已经取得了显著的进展

    2024年02月20日
    浏览(54)
  • 人工智能与创新:如何解决实际问题

    人工智能(Artificial Intelligence, AI)是一种计算机科学的分支,旨在让计算机具有人类般的智能。人工智能的目标是让计算机能够理解自然语言、识别图像、解决问题、学习和自主决策等。人工智能技术的应用范围广泛,包括机器学习、深度学习、自然语言处理、计算机视觉、语

    2024年02月19日
    浏览(44)
  • 人工智能技能的融合:实现高效问题解决

    随着人工智能技术的不断发展,人工智能技能的融合成为了实现高效问题解决的关键。人工智能技能的融合是指在人工智能系统中,将多种人工智能技术相互结合,共同完成某个任务的过程。这种融合可以让人工智能系统具备更强大的问题解决能力,更高效地处理复杂问题。

    2024年02月22日
    浏览(69)
  • 认知科学与人工智能:解决复杂问题的关键

    人工智能(Artificial Intelligence, AI)是一门研究如何让计算机模拟人类智能的学科。人类智能可以分为两类:一类是通过学习和经验而获得的,称为“泛化”(generalization);另一类是通过直接学习而获得的,称为“特定”(specific)。人工智能的目标是让计算机具有这两种智能

    2024年01月17日
    浏览(42)
  • 人工智能在未知问题解决领域的挑战与机遇

    人工智能(Artificial Intelligence, AI)是一门研究如何让计算机模拟人类智能的科学。在过去的几十年里,人工智能已经取得了很大的进展,例如自然语言处理、计算机视觉、机器学习等领域。然而,在未知问题解决领域,人工智能仍然面临着很大的挑战。 未知问题(Unkown Problems)是

    2024年02月21日
    浏览(48)
  • 人工智能的未来:如何提高解决未知问题的能力

    人工智能(Artificial Intelligence, AI)是一种使计算机能够像人类一样智能地思考、学习和理解自然语言的技术。它的目标是创造出能够自主地解决问题、学习新知识和理解环境的智能系统。在过去的几十年里,人工智能技术已经取得了显著的进展,尤其是在机器学习、深度学习和

    2024年02月22日
    浏览(58)
  • 人工智能与物理学:如何解决复杂的物理问题

    物理学是一门研究自然界各种物质和现象的科学。在过去的几十年里,物理学家们已经解决了许多复杂的物理问题,如黑洞、宇宙膨胀和量子力学等。然而,随着科学和技术的发展,物理学问题变得越来越复杂,需要更高效、更有效的方法来解决它们。 人工智能(AI)是一种通

    2024年02月20日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包