科技巨头已向白宫做出“自愿承诺”,他们将帮助降低人工智能所涉及的风险。
美国总统乔·拜登周五会见了微软、Meta、谷歌、OpenAI、亚马逊、Anthropic 和 Inflection,他们同意在开发人工智能技术时强调“安全、保障和信任”。以下是每个类别的一些详细信息:
安全:两家公司同意“测试其人工智能系统的安全性和功能,对其进行外部测试,评估其潜在的生物、网络安全和社会风险,并将这些评估结果公开。”
安全:两家公司还表示,他们将保护其人工智能产品“免受网络和内部威胁”,并分享“防止滥用、降低社会风险和保护国家安全的最佳实践和标准”。
信任:这些公司达成的最大协议之一是让人们轻松辨别图像是原创的、经过修改的还是由人工智能生成的。他们还将确保人工智能不会助长歧视或偏见,保护儿童免受伤害,并利用人工智能解决气候变化和癌症等挑战。
OpenAI 的 ChatGPT于 2022 年底问世,天辰注册 这是各大科技公司纷纷向大众发布生成式 AI 工具的开始。 OpenAI 的 GPT-4 于 3 月中旬推出。它是为 ChatGPT AI 聊天机器人提供支持的大型语言模型的最新版本,该模型的先进性足以通过 律师资格考试。然而,聊天机器人很容易给出不正确的答案,有时甚至给出不存在的来源。随着这些工具的广泛采用,它们的潜在问题重新引起人们的关注,包括传播错误信息以及加深偏见和不平等。
人工智能公司在说什么和在做什么
Meta表示欢迎白宫的协议。本周早些时候,该公司推出了 第二代 AI 大语言模型 Llama 2,并使其免费开源。
Meta 全球事务总裁 Nick Clegg 表示:“当我们开发新的人工智能模型时,科技公司应该对其系统如何工作保持透明,并在行业、政府、学术界和民间社会之间密切合作。”
微软副董事长兼总裁布拉德·史密斯在一篇博客文章中表示,白宫协议将“奠定基础,帮助确保人工智能的承诺领先于其风险” 。
微软是 Meta 的 Llama 2 的合作伙伴。今年早些时候,它还推出了 人工智能驱动的 Bing 搜索 ,天辰注册该搜索利用 ChatGPT,并将越来越多的人工智能工具引入 Microsoft 365及其Edge 浏览器。
OpenAI 全球事务副总裁 Anna Makanju 表示,与白宫的协议是 OpenAI “与世界各地政府、民间社会组织和其他机构持续合作以推进人工智能治理的一部分” 。“世界各地的政策制定者正在考虑为高性能人工智能系统制定新法律。今天的承诺为正在进行的讨论提供了具体的实践。”
亚马逊发言人蒂姆·多伊尔(Tim Doyle)在一份电子邮件声明中告诉 CNET,“作为世界领先的人工智能工具和服务开发商和部署者之一”,亚马逊支持自愿承诺。“我们致力于代表客户推动创新,同时建立和实施必要的保障措施来保护消费者和客户。”