距离 2024 年总统大选还有一年半，共和党全国委员会开始投放针对总统乔·拜登的攻击广告。然而，这一次，委员会做了一些不同的事情。 

它利用生成式人工智能制作了一个政治广告，其中充满了描绘另一种现实的图像，带有党派倾向——它想让我们相信，如果拜登连任，这个国家会是什么样子。广告中闪现出成群结队的移民跨越美国边境、世界大战一触即发以及士兵在美国荒芜城市街道上巡逻的画面。在视频的左上角，有一条很小的、微弱的免责声明——天辰游戏平台很容易被错过——指出：“完全用人工智能图像构建。”

目前尚不清楚共和党全国委员会用于生成该视频的原因。该委员会没有回应提供更多信息的请求。但它似乎确实产生了诸如“破坏”、“政府崩溃”和“经济失败”之类的想法。

政治广告并不是我们通过人工智能生成的图像和文字出现错误信息的唯一地方。而且它们并不总是带有警告标签。例如，教皇弗朗西斯穿着时尚羽绒服的假照片在三月份疯传，错误地暗示这位宗教领袖正在为奢侈时尚品牌巴黎世家 (Balenciaga) 的服装做模特。一段巴黎街道垃圾遍地的 TikTok 视频本月浏览量超过 40 万次，而且所有图像完全是假的。


OpenAI 的 ChatGPT和Google Bard等生成式 AI 工具一直是 2023 年最受关注的技术，从计算机编程到新闻再到教育，几乎所有领域都没有任何减弱的迹象。该技术被用于社交媒体帖子、主要电视节目和书籍写作。微软等公司正在人工智能领域投资数十亿美元。

生成式人工智能工具——使用大量数据构建，通常从互联网上获取，有时从专有来源获取——被编程为通过生成文本、图像、音频或其他形式的媒体来回答查询或响应提示。拍摄照片、编写代码、创作音乐等任务都可以通过人工智能工具轻松完成；只需调整您的提示，直到获得您想要的结果。它激发了一些人的创造力，而另一些人则担心这些人工智能系统的 潜在威胁。

当我们无法区分人工智能和现实时，问题就会出现。或者，当人工智能生成的内容是故意欺骗人们时，那么不仅仅是错误信息（错误或误导性信息），还有虚假信息（旨在误导或造成伤害的虚假信息）。那些旨在传播错误信息的人可以使用生成人工智能以极低的成本创建虚假内容，专家表示，与人类创建的内容相比，其输出可以更好地愚弄公众。

人工智能生成的错误信息的潜在危害可能很严重：它可能会影响选票或撼动股市。天辰游戏平台人工智能专家瓦西姆·哈立德表示，生成式人工智能还可能削弱信任和我们共同的现实感。

Blackbird.AI 的首席执行官兼联合创始人瓦西姆·哈立德 (Wasim Khaled) 表示：“随着人工智能模糊了事实与虚构之间的界限，我们看到虚假信息活动和深度伪造行为不断增加，这些活动可以操纵公众舆论并扰乱民主进程。”为企业提供人工智能驱动的叙述和风险情报。“这种对现实的扭曲可能会破坏公众的信任，并带来重大的社会和道德挑战。”

尽管创造该技术的科技巨头正在努力将风险降至最低，但人工智能已经被用于错误信息的目的。虽然专家不确定我们是否有工具来阻止人工智能的滥用，但他们确实提供了一些关于如何发现人工智能并减缓其传播的建议。