周四在 麻省理工学院通过视频通话 ,天辰注册Altman 提到了 Elon Musk、Apple 联合创始人 Steve Wozniak 和其他人在 3 月底签署的一封信,并说:“这封信的早期版本声称 OpenAI 正在训练 GPT-5。我们现在不是,也不会是一段时间。”
由于人工智能对社会的“深远风险”,这封公开信敦促实验室至少暂停六个月的人工智能开发。Altman 表示他同意这封信的部分内容,并补充说 OpenAI “在我们完成 GPT-4 训练后花了六个月多的时间才发布它。”
奥尔特曼说:“我认为谨慎行事并加强安全问题的严谨性非常重要。” “我也同意,随着……能力变得越来越严重,安全栏必须提高。
“但我们正在 GPT-4 之上做其他事情,我认为这些事情有各种重要的安全问题需要解决,天辰注册并且完全被排除在信件之外,”Altman 补充说,但他没有详细说明。CNBC 早些时候报道了奥特曼的言论。
这封由非营利组织未来生命研究所发布的公开信提到了对人工智能不可预见影响的担忧。
信中说:“广泛的研究表明,具有人类竞争情报的人工智能系统可能对社会和人类构成深远的风险,并得到顶级人工智能实验室的认可。” “我们应该让机器用宣传和谎言淹没我们的信息渠道吗?我们应该自动化所有工作,包括令人满意的工作吗?我们应该冒失去对我们文明控制的风险吗?”
这封信是在OpenAI 的 GPT-4于 3 月中旬公开亮相之后发布的 ,这是对支持 ChatGPT 聊天机器人的大型语言模型的更新。根据 OpenAI 的说法,与早期版本相比,GPT-4 的缺陷更少,产生的结果更细微,处理的任务也更复杂。ChatGPT 利用用于训练 GPT-4 回答问题和执行任务的庞大数据集,例如通过律师资格考试。
“在某些时候,在开始训练未来系统之前获得独立审查可能很重要,” OpenAI在其自己的网站上说。
随着 OpenAI 开始为 ChatGPT 推出 插件,CNET 对ChatGPT、Bing 和 Google Bard 进行了分解,以确定哪个 AI 聊天机器人最有帮助。中国巨头阿里巴巴也推出了具有中文和英文功能的 ChatGPT 竞争对手。
编者注:CNET 正在使用 AI 引擎创建一些个人理财解释器,这些解释器由我们的编辑进行编辑和事实检查。有关更多信息,请参阅 这篇文章。