两位美国参议员加入了一长串知名人物的行列，要求将生成式人工智能（ChatGPT 和 Midjourney 等工具背后的技术）放在显微镜下检查其风险。

马萨诸塞州参议员爱德华·马基和密歇根州参议员加里·彼得斯周四致信美国政府问责办公室主任，要求该机构进行详细的技术评估，称生成人工智能带来“广泛的严重危害”。 ”

信中说：“尽管生成式人工智能有望带来许多好处，但它已经造成了重大危害。” “为了从人工智能的进步中获得最大收益，我们必须仔细研究并了解其成本。” 马基和彼得斯补充道，“国会迫切需要无党派的技术专业知识，而政府问责局完全有能力提供这些专业知识。”

参议员们列举了生成式人工智能的风险，例如操纵性语音、文本和图像合成；“深度假货”，包括未经他人同意而由他人（特别是女性）制作的色情图像和视频；以及实施人工智能聊天机器人的公司，这些机器人向客户提供有害和不正确的信息。

参议员们表示，生成式人工智能的技术进步已经在从艺术到科学的各个行业中发挥着积极作用，但他们称这项技术是“一把双刃剑”，如果不负责任地使用，将会产生严重影响。


公司多年来一直在使用人工智能系统，但自从ChatGPT去年年底推出后  迅速流行以来，对OpenAI 的 ChatGPT 聊天机器人以及图像生成工具 Midjourney和Dall-E 等生成式人工智能产品的担忧一直在增加。

了解更多： 银行客户对人工智能聊天机器人不满意。这就是为什么

技术高管、行业专家，甚至这些人工智能技术背后的首席执行官都直言不讳地谈到，在缺乏行业或政府监管和监督的情况下，生成式人工智能模型可能产生负面影响。

人工智能领域的行业领导者微软在 5 月份发布了一份长达 40 页的报告，称 人工智能监管 对于防范不良行为者和滥用行为是必要的。

今年 3 月，特斯拉首席执行官埃隆·马斯克和其他行业领袖敦促暂停比ChatGPT 4更先进的人工智能模型， ChatGPT 4是 ChatGPT 聊天机器人背后的大型语言模型的最先进版本，理由是对人类存在“深远的风险”。

本月早些时候，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 和 DeepMind 首席执行官德米斯·哈萨比斯 (Demis Hassabis) 以及其他科学家和知名人士 签署了一份有关先进人工智能系统的声明 ，表示“减轻人工智能灭绝的风险应该与其他社会规模的风险一起成为全球优先事项”例如流行病和核战争。”

马基和彼得斯在周四的信中列出了政府问责办公室可以用来评估生成人工智能风险的问题清单。它包括对安全措施、商业压力以及对工人的影响的询问。