来源:https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections
AI工具使人们能够改善日常生活并解决复杂问题。
通过提升准确的投票信息、执行有节制的政策和提高透明度来继续平台安全工作。 成立一个跨职能的工作,致力于选举工作,汇集了安全系统、威胁情报、法律、工程和政策团队的专业知识,以快速调查和解决潜在的滥用行为。
关键举措
为防止滥用AI、提高AI生成内容的透明度,并改善对准确投票信息的访问,确保AI技术不会被用于破坏选举的公正性,可以采取以下措施:
-
制定和实施AI伦理准则:制定一套AI伦理准则,明确界定AI在选举过程中的应用范围和限制,确保其使用不会损害公民的权利和选举的公正性。
-
透明度和责任:AI系统的设计和使用应该是透明的,让公众能够理解AI如何工作,以及如何做出决策。AI系统的开发者和使用者应对其产生的影响负责。
-
确保内容的真实性:针对AI生成的内容(如深度伪造、虚假新闻等),应开发和部署检测工具,以识别和标记或删除虚假信息。同时,推广媒体素养教育,增强公众识别虚假信息的能力。
-
加强法律和政策框架:通过立法和政策措施,禁止利用AI技术散布误导信息、干扰选举过程或侵犯选民隐私。确保法律能够应对AI技术的新发展和潜在滥用。
-
合作与分享最佳实践:政府、技术公司、学术界和民间组织应加强合作,共享关于防止AI滥用和保护选举公正性的最佳实践。通过国际合作,应对跨境的虚假信息传播和网络干预行为。
-
加强对选举信息的准确传播:利用AI技术提高对准确投票信息的访问,如通过自然语言处理技术,自动生成易于理解的选举信息,帮助选民获得准确的投票信息和程序。
-
定期审查和评估:AI技术和应用场景在不断发展,应定期审查和评估现有的伦理准则、法律和政策,确保它们能够有效应对新的挑战。
通过这些措施,可以减少AI技术在选举过程中的滥用风险,提高公众对AI生成内容的透明度,同时改善对准确投票信息的访问,确保选举的公正性得到保护。
防止滥用
我们期望并致力于让人们安全、负责任地使用我们的工具,选举也不例外。我们致力于预测和防止相关的滥用行为,例如误导性的“深度伪造”、大规模的影响力操作或冒充候选人的聊天机器人。在发布新系统之前,我们会对它们进行红组处理,让用户和外部合作伙伴参与反馈,并制定安全缓解措施以减少潜在的危害。多年来,我们一直在迭代工具,以提高事实准确性、减少偏见和拒绝某些请求。这些工具为我们围绕选举诚信的工作奠定了坚实的基础。例如,DALL·E 有护栏来拒绝要求生成真人(包括候选人)图像的请求。
我们定期完善我们的使用政策对于 ChatGPT 和 API,因为我们更多地了解人们如何使用或试图滥用我们的技术。在选举中要强调的一些内容:
我们仍在努力了解我们的工具在个性化说服方面的有效性。在我们了解更多之前,我们不允许人们为政治竞选和游说构建应用程序。
人们希望知道并相信他们正在与真实的人、企业或政府互动。出于这个原因,我们不允许建设者创建伪装成真人(例如候选人)或机构(例如地方政府)的聊天机器人。
我们不允许发布阻止人们参与民主进程的申请,例如,歪曲投票过程和资格(例如,何时、何地或谁有资格投票)或阻止投票(例如,声称投票毫无意义)。
使用我们的新 GPT,用户可以向我们报告潜在的违规行为。
人工智能生成内容的透明度
提高图像出处的透明度(包括检测使用哪些工具制作图像的能力)可以使选民能够对图像的制作方式充满信心和信心地评估图像。我们正在努力进行几项出处工作。今年年初,我们将实施内容来源和真实性联盟数字凭证(一种使用密码学对内容出处的详细信息进行编码的方法)适用于 DALL·E 3.
我们还在试验一种来源分类器,这是一种用于检测DALL·E生成的图像的新工具。我们的内部测试显示出有希望的早期结果,即使图像已经进行了常见类型的修改。我们计划很快将其提供给我们的第一批测试人员(包括记者、平台和研究人员)以征求反馈。
最后,ChatGPT 越来越多地与现有信息来源集成——例如,用户将开始访问全球实时新闻报道,包括归因和链接。信息来源的透明度和新闻来源的平衡可以帮助选民更好地评估信息并自己决定他们可以信任什么。
改善对权威投票信息的访问
在美国,我们正在与全国国务卿协会(NASS),美国历史最悠久的公职人员无党派专业组织。ChatGPT 会将用户引导至美国投票信息权威网站 CanIVote.org,当被问及某些与程序性选举相关的问题时,例如在哪里投票。从这项工作中吸取的经验教训将为我们在其他国家和地区的做法提供参考。文章来源:https://www.toymoban.com/news/detail-829446.html
在接下来的几个月里,我们将分享更多内容。我们期待继续与合作伙伴合作并向合作伙伴学习,以预测和防止在今年的全球选举之前滥用我们的工具。文章来源地址https://www.toymoban.com/news/detail-829446.html
到了这里,关于防止滥用AI,提高 AI 生成内容的透明度,并改善对准确投票信息的访问。确保AI技术不会被用于破坏选举公正性的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!