多年来,手机一直在使用人工智能来润色照片并改进自动更正功能,天辰注册但生成式人工智能工具可以将移动体验提升到新的水平。高通正在将生成式人工智能构建到其下一代高端芯片中,该芯片将于 10 月底在夏威夷举行的年度高通峰会上首次亮相。
峰会与会者将亲身体验生成式人工智能将给手机带来什么,但高通产品管理高级副总裁 Ziad Asghar 向 CNET 描述了为什么用户应该对设备上的人工智能感到兴奋。其一,在一个地方访问用户的数据(驾驶模式、餐厅搜索、照片等)将使手机中的人工智能生成的解决方案比基于云的生成人工智能的一般响应更加定制化和有用。
“我认为这将成为圣杯,”阿斯加尔说。“这是真正的承诺,让我们对这项技术的发展前景感到非常兴奋。”
在设备上使用生成式人工智能还有其他优势。最重要的是,搜索的查询和个人数据都是保密的,不会通过远程服务器转发。使用本地人工智能也比等待云计算更快,天辰注册而且它可以在飞机旅行或其他缺乏手机服务的地区工作。
但设备上的解决方案也具有商业和效率意义。正如高通在上个月发布的白皮书中所解释的那样,随着机器学习模型变得越来越复杂(从数十万个参数到数十亿个参数,阿斯加尔说),运行回答查询的服务器的成本越来越高。早在 4 月份,OpenAI 估计每天要花费大约 70 万美元让 ChatGPT 回答提示,并且成本预测是基于旧的 GPT-3 模型,而不是更复杂且维护成本可能更高的新 GPT-4规模化。高通的解决方案不需要整个服务器场,而是让设备现有的硅大脑完成所需的所有思考,而无需额外成本。
Techsponential 分析师阿维·格林加特 (Avi Greengart) 通过电子邮件告诉 CNET:“在手机上运行人工智能实际上是免费的——你预先为计算能力付费。”
当芯片制造商在 2 月份的世界移动大会上展示高通的设备端生成人工智能时,Greengart 看到了它的实际应用,使用搭载 Snapdragon 8 Gen 2 的 Android 手机运行图像生成软件 Stable Diffusion。尽管是早期演示,但他发现它“非常令人兴奋”。