再聊ChatGPT(关于安全,隐私和法律方面的风险)

这篇具有很好参考价值的文章主要介绍了再聊ChatGPT(关于安全,隐私和法律方面的风险)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

再聊ChatGPT(关于安全,隐私和法律方面的风险)

我在上一篇博文中有谈到ChatGPT 发展可能会经历的一些阶段。ChatGPT的必经阶段:野蛮生长时代-管理层监管与风险提示-号召国产化-规范化常态化。

昨天刚好看到监管部门发文

再聊ChatGPT(关于安全,隐私和法律方面的风险)

 说明监管部门已经意识到到ChatGPT野蛮生长阶段,其实是存在很多漏洞和问题的。

其主要要点:

1、国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

2、利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。

3、利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

4、禁止非法获取、披露、利用个人信息和隐私、商业秘密。

5、利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”),承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。

6、提供者发现用户利用生成式人工智能产品过程中违反法律法规,违背商业道德、社会公德行为时,包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件,实施不正当的商业营销等,应当暂停或者终止服务。

7、提供者应当明确并公开其服务的适用人群、场合、用途,采取适当措施防范用户过分依赖或沉迷生成内容。

8、用生成式人工智能产品向公众提供服务前,应当向国家网信部门申报安全评估

9、提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

10、提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。

11、提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

        以上要点与我上一篇文中谈到的其实不谋而合。一个新东西的产生,往往会被各方有心人利用,利用里面的漏洞,灰色地带,甚至黑色地带。在法律和监管不健全的情况下野蛮生长。未来可能有专门针对ChatGPT法律颁布都是有可能的。因为这个东西影响深远。

        未来的ChatGPT一定会走向国产化,而且外国的ChatGPT在中国有可能被永久禁止使用。站在国家安全角度,中国人不允许使用外国的ChatGPT ,所以国内的ChatGPT肯定会百花齐发,国内已经有百度、阿里、科大讯飞、360等这些公司在训练大语言模型,最后推选出最优秀的一到两个ChatGPT进行规范化和常态化管理。

ChatGPT大有用处,但最后还是作为一个工具为大家提供服务,然后植入商业广告,进行运营,未来可能不是这种按账号收钱的模式。文章来源地址https://www.toymoban.com/news/detail-420151.html

到了这里,关于再聊ChatGPT(关于安全,隐私和法律方面的风险)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 置信风险与人脸识别:安全与隐私保护

    人脸识别技术在过去的几年里发展迅速,已经成为人工智能领域的一个重要应用。然而,随着人脸识别技术的广泛应用,隐私和安全问题也逐渐成为社会关注的焦点。在这篇文章中,我们将探讨人脸识别技术中的置信风险,以及如何在保护隐私和安全的同时发展这项技术。

    2024年04月13日
    浏览(58)
  • 数据隐私保护:网站文章采集txt事件引发的用户隐私安全风险

    近期,以“网站文章采集txt”为名义的企业因涉嫌非法收集用户数据而掀起一阵公众争议。该事件再度聚焦于数据隐私保护的议题。接下来,本文将深度剖析这一问题的实质。 1.采集行为遭到质疑 据悉,网站文章采集txt公司因涉嫌非法获取用户信息及进行商业利用而遭受指控

    2024年04月08日
    浏览(54)
  • Linux发行版Gentoo被发现有漏洞,在SQL注入方面存在安全风险

    近日有消息表明,Gentoo Linux发行版中存在漏洞CVE-2023-28424,并且极有可能被黑客利用该漏洞进行SQL注入攻击。 据悉,研究人员从 GentooLinux的Soko搜索组件中找到了这个漏洞,并且该漏洞的CVSS风险评分为 9.1,属于特别重大漏洞,GentooLinux开发团队已经于漏洞曝出24小时内进行了修

    2024年02月12日
    浏览(49)
  • 论文AI高风险怎么降:从7个方面为您的安全保驾护航

    随着人工智能技术的飞速发展,AI已经深入到我们生活的方方面面,包括学术研究领域。然而,AI在论文写作中也存在一些高风险,如何降低这些风险,确保学术研究的准确性和可靠性呢?本文将从七个方面为您详细解析。 针对这一问题,更高级的AI也随之而来: 论文AI高风险

    2024年02月22日
    浏览(49)
  • 四大攻击类型并存,NIST 警告人工智能系统带来的安全和隐私风险

    美国国家标准与技术研究院 (NIST) 近日发布了有关对抗性机器学习 (AML) 攻击和缓解措施指南, 呼吁人们再度关注近年来人工智能 (AI) 系统部署增加所带来的隐私和安全挑战,并表示这类系统目前没有万无一失的方法进行保护。 NIST指出,这些安全和隐私挑战包括恶意操纵训练

    2024年02月03日
    浏览(42)
  • 人工智能与人类智能的安全与隐私保护:如何平衡利益与风险

    人工智能(Artificial Intelligence, AI)和人类智能(Human Intelligence, HI)都是人类在处理信息和解决问题方面的能力。AI是指机器人或计算机程序具有人类智能的能力,而HI是指人类自然具备的智能。在过去的几年里,人工智能技术的发展非常迅猛,它已经成为许多行业的重要驱动力。然

    2024年03月14日
    浏览(68)
  • 关于文件上传功能的安全方面的考量

    场景 最近做了一个文件上传的功能,下面说进行了哪些方面实现 安全实现 验证登录 验证登录用户是否有文件上传接口的权限 限制文件大小 检验文件后缀,文件头 文件单独存储,可以考虑使用第三方服务 比如:七牛云 设置文件的rwx权限, rw根据实际情况设置,但是一定不能设置

    2024年01月16日
    浏览(30)
  • 隐私合规相关法律法规合集

    01中华人民共和国网络安全法(全文)201611.pdf 02信息安全技术 个人信息安全规范GB:T 35273—2017.pdf 03开展App违法违规收集使用个人信息专项治理-中共中央网络安全和信息化委员会办公室201901.pdf 04App违法违规收集使用个人信息自评估指南201903.pdf 05开展App安全认证的公告201903 0

    2024年02月06日
    浏览(85)
  • 开源软件合规风险与开源协议的法律效力

     更多内容:​​​​​​OWASP TOP 10 之敏感数据泄露 OWASP TOP 10 之失效的访问控制 ​​​​​​OWASP TOP 10 之失效的身份认证 一、开源软件主要合规风险 1、版权侵权风险 没有履行开源许可证规定的协议导致的版权侵权,例如没有按照许可要求的保留版权声明等。 2、商业机密

    2024年01月19日
    浏览(70)
  • 数字藏品平台搭建需要注意哪些法律风险及资质?

    NFT自从2021年火爆出圈以来,受到市场的广泛关注和讨论。然而,海外市场的NFT的产品逻辑与国内市场的数字藏品并不完全一样,所面临监管环境、发展路径、风险敞口也有如云泥。长远来看,产业的健康发展离不开合规经营和对监管政策的深刻理解。本文试图浅析国内数字藏

    2024年02月03日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包