合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”

这篇具有很好参考价值的文章主要介绍了合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

开年以来,多个图像生成软件在全球迅速蹿红,其作画逼真程度“技惊四座”。AI一路“狂飙”,让生成、篡改等多形式的图片伪造的门槛变得更低,由此引发的隐患也令人忧虑。

图像是信息的主要载体之一,利用AI进行图像造假的行为,是AI可信化发展需要应对的重点问题。在本届世界人工智能大会(WAIC 2023)上,中国信息通信研究院(简称中国信通院)围绕“多模态基础大模型的可信AI”主题举办了专项论坛。论坛上,合合信息AI图像内容安全技术方案获得广泛关注。该方案可精准定位截图篡改痕迹,对生成式图片进行智能判别,防止不法分子利用技术手段非法爬取图片上的信息。

合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”,人工智能,智能OCR,安全,大数据

 图说:合合信息智能创新事业部总经理唐琪现场介绍合合信息AI图像安全技术应用

用AI守护AI图像内容安全,合合信息新技术很“实用”

去年的人工智能大会上,合合信息首次展示了“PS篡改检测”技术,“像素级”的识别精确度让现场参观者感叹,在识别证件、票据等各类重要的商业材料中的PS痕迹方面,AI真的是“火眼金睛”。

合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”,人工智能,智能OCR,安全,大数据

 图说:合合信息AI图像篡改检测技术应用效果展示

今年,AI图像篡改检测“黑科技”持续优化升级,应用面也拓展至“截图篡改检测”。相较于去年的自然场景图像,对用户生活影响更大的资质证书、文档合同、银行保单等截图若被不法分子利用,所承受的财产损失难以估量。

据了解,升级后的AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图,无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段,还是“擦除”“重打印”等方式,图像篡改检测技术均可“慧眼”识假。

合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”,人工智能,智能OCR,安全,大数据

 图说:“重打印”篡改图片检测示例:一张图片输入到合合信息AI图像篡改检测模型中,模型便能够判别这张图像是否被篡改,并且定位图像的篡改区域

该技术的主要难点在于,与证照篡改检测相比,截图的背景没有纹路和底色,整个截图没有光照差异,难以通过拍照时产生的成像差异进行篡改痕迹判断,现有的视觉模型通常难以充分发掘原始图像和篡改图像的细粒度差异特征。

为此,合合信息提出了一种基于HRNet的编码器-解码器结构的图像真实性鉴别模型,结合图像本身的信息,包括但不限于噪声、频谱等, 从而捕捉到细粒度的视觉差异,达到高精度鉴别效果。

针对频上“热搜”的AIGC话题,合合信息研发了关于AI生成图片鉴别技术,用于判断图片是否由AI生成。AIGC生成图像识别的一大难点在于AI生成的图像场景繁多,机器难以判别。合合信息基于空域与频域关系建模,能够利用多维度特征来分辨真实图片和生成式图片的细微差异。

此外,合合信息对OCR对抗攻击技术展开了创新性的研究。当人们在网上发送含有个人信息的图片时,这些资料包含的信息很可能被不法分子使用OCR技术提取并泄露。OCR对抗攻击技术可对场景文本或者文档内文本进行扰动,为个人或企业的重要文件“上锁”,防止第三方通过OCR系统读取并保存图像中所有的文字内容,降低数据泄露的风险,达到保护隐私信息的目的。

合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”,人工智能,智能OCR,安全,大数据

 图说:合合信息OCR对抗攻击技术应用效果展示,可对关键信息进行遮盖,在不影响肉眼观看的情况下阻止机器自动爬取

推动图像内容安全行业发展标准建立,助力可信AI系统化落地

中国信通院发布的《人工智能白皮书(2022年)》中提到,人工智能正在迈入“创新驱动、应用深化、规范发展”的新阶段。可信AI的实现,需要政府、企业、高校等多方力量的协同。行业标准的制定,或将为中国“可信AI”在机器视觉、图像处理领域的体系建设提供有力支持。

为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务管理办法(征求意见稿)》等文件中对于AI服务的规范性要求,系统性建立图像内容安全行业发展秩序,今年6月,中国信通院牵头启动了《文档图像篡改检测标准》制定工作,合合信息、中国图像图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合参与编制。

据悉,该项标准将基于产业现状,围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题,凝聚行业共识,以期为行业提供有效指引。合合信息智能创新事业部总经理唐琪在论坛分享中表示,《文档图像篡改检测标准》制定项目的启动,是AI图像内容安全体系建设之路上的重要的里程碑。期待更多研究机构、企业主体参与进来,共同推动AI服务规范性的整体提升和行业发展秩序的建立,助力科技向上而行,向善发展。

可信AI的健康发展,除了标准引领,也需要“硬科技”支撑。合合信息深耕智能文字识别、智能图像处理领域,技术成果获权威机构及市场认可。最近一个月内,公司智能文档处理产品通过中国信通院“可信AI—智能文档处理系统”评估工作,并获得“5级”评定。“5级”为该模块最高评定等级。

目前,合合信息AI技术已落地于银行、保险、证券、制造、政务等近30个行业,服务全球超过200个国家和地区的个人及企业用户。未来,合合信息将与学术、产业合作伙伴共同助力AI图像内容行业的安全和可信发展,打造上海人工智能发展的亮丽名片。文章来源地址https://www.toymoban.com/news/detail-566462.html

到了这里,关于合合信息AI图像内容安全新技术亮相WAIC2023,防范“生成式造假”的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 聚焦电力行业CentOS迁移,麒麟信安受邀参加第六届电力信息通信新技术大会暨数字化发展论坛并发表主题演讲

    为加快推进“双碳”目标下的新型能源体系和新型电力系统建设,深化新一代数字技术与电力业务的融合发展,促进电力行业关键技术自主创新、安全可控,助力电力企业数字化转型升级和高质量发展,2023年8月9-11日,第六届电力信息通信新技术大会暨数字化发展论坛在杭州

    2024年02月12日
    浏览(51)
  • 2023前端领域流行的新技术

    我一直关注前端技术的发展。近年来,前端技术发生了很多变化,出现了许多新的框架、库和工具。以下是一些值得关注的前端新技术: 以下是近几年新技术的发展趋势: Vue.js 3:Vue.js 是一个非常受欢迎的前端框架,Vue.js 3 带来了许多新特性,如更好的性能、更小的打包大

    2024年02月11日
    浏览(44)
  • 软件测试的新技术和方法

    作为一位资深的IT领域博主,我一直在关注软件测试领域的发展趋势。随着技术的不断发展,软件测试领域也在不断更新换代。在本文中,我将分享一些最新的软件测试技术和方法,希望能对广大软件测试工程师提供一些参考。 自动化测试是当前软件测试领域的一个重要趋势

    2024年02月06日
    浏览(41)
  • 云计算环境中需要用到的新技术

    云计算都会用到哪些技术 人工智能(AI)允许机器从处理经验中学习,适应新的数据输入和来源,并最终对AI进行类似人类的分析和调整。人工智能操作的主要方式是消耗大量的数据并识别和分析数据中的模式。人工智能主要有三种类型:分析型、人类启发型和人性化。 分析型

    2023年04月08日
    浏览(75)
  • 引领创新的软件开发和新技术实践

    在快速发展的科技时代,软件开发领域不断涌现出新的技术和创新方法。通过引领创新的软件开发和积极应用新技术,团队可以更好地适应市场需求,提高产品竞争力。本文将介绍一些引领创新的软件开发和新技术实践。 采用敏捷开发方法和迭代模型,将软件开发过程划分为

    2024年01月22日
    浏览(80)
  • JMUer-网络新技术课程期末考试复习整理

    ✏️write in front✏️ 📝个人主页:陈丹宇jmu 🎁欢迎各位→点赞👍 + 收藏⭐️ + 留言📝​ 🙉联系作者🙈by QQ:813942269🐧 🌈致亲爱的读者:很高兴你能看到我的文章,希望我的文章可以帮助到你,祝万事顺意🏳️‍🌈 ✉️少年不惧岁月长,彼方尚有荣光在 🏆 题型 分值

    2024年02月04日
    浏览(50)
  • Java 新技术:虚拟线程使用指南(二)

    虚拟线程是在 Java 21 版本中实现的一种轻量级线程。它由 JVM 进行创建以及管理。虚拟线程和传统线程(我们称之为平台线程)之间的主要区别在于,我们可以轻松地在一个 Java 程序中运行大量、甚至数百万个虚拟线程。 由于虚拟线程的数量众多,也就赋予了 Java 程序强大的

    2024年02月03日
    浏览(39)
  • 新技术前沿-2023-ChatGPT基于人工智能技术的聊天机器人

    chatgpt镜像网站 一文带你了解爆火的Chat GPT ChatGPT系列文章 为什么ChatGPT这么强?—— 一文读懂ChatGPT原理! ChatGPT是一种基于人工智能技术的聊天机器人,它可以模拟人类对话,回答用户的问题和提供相关信息。ChatGPT使用 自然语言处理技术 ,可以与用户进行语音或文本交互,

    2023年04月15日
    浏览(76)
  • 替代堆叠的新技术M-lag

    M-lag:跨设备链路聚合组,是一种实现跨设备链路聚合的机制。将一台设备与另外两台设备进行跨设备链路聚合,从而把链路的可靠性从单板级提升到设备级,组成双活系统。 基本概念: peer-link链路:是一条聚合链路(可靠性),用于协商报文及传输部分流量。 keepalive链路

    2024年01月21日
    浏览(51)
  • 3D轻量化引擎推出新技术,模型渲染更逼真!

    HOOPS Communicator在2021版本中,推出了基于PBR(Physically Based Rendering)的渲染特性以提供更高质量的渲染技术。 PBR将材料表示为一系列方程,这些方程对光如何从表面反射进行建模,再通过GPU上运行的着色器代码进行有效地实现。 在过去的30年里,PC端的3D轻量化功能取得了令人

    2024年02月08日
    浏览(36)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包