纽约时报：GPT 聊天对西方政治体系构成威胁

Chat GPT* 推出数周后，已经威胁要颠覆我们日常交流的许多形式，例如我们写电子邮件、大学论文和无数其他写作形式的方式。 纽约时报.

GPT聊天

公司开发的 打开 AI 应用程序是一种专为交流而设计的机器人——它可以自动回答以书面形式提出的问题，其方式通常接近于人类，以至于无法区分它是否已被使用过。 但是，除了机器可以以诗歌和剧本等话语形式取代人类这一令人惊讶之外，还有一个更大的威胁：在民主进程中人工智能取代人类——不是通过投票，而是通过游说。

GPT Chat 可以自动编辑在立法过程中提交的评论。 他可以写信给当地报纸的主编出版。 他每天可以对新闻文章、博客文章和社交媒体帖子发表数百万次评论。 它可以模仿俄罗斯互联网情报局的工作，试图影响 2016 年美国大选，但没有数百万美元的预算和为此目的雇用的数百名员工。

自动生成的评论并不是一个新问题。 一段时间以来，我们一直面临机器人的威胁 – 自动发布内容的机器。 五年前，据信至少有 100 万条自动生成的评论已提交给 FCC，涉及拟议的互联网中立立法。 2019 年，一名哈佛大学学生试用了自动文本生成器，在一次公共卫生咨询中提交了 1,001 条评论。 当时，发表评论只是一种算术游戏。

对国会议员的危险

从那时起，平台在消除“人为的、非真实的行为”方面变得越来越好。 例如，Facebook 每年删除超过 10 亿个虚假账户。 但这些消息仅仅是开始。 AI 系统——与 GPT Chat 应用程序一样先进，并在与这些过程相关的数据上进行了培训——可以将立法者和有影响力的人作为目标，而不是用支持的消息淹没立法者的收件箱或用机器人电话检查国会大厦的总机。在立法过程中指出并通过直接沟通无情地操纵它们。

当我们人民参与此类活动时，就称为游说。 这一类型的成功代表，即领先的游说者，将准确地编写消息与智能定位策略结合起来。 目前，唯一阻止配备聊天 GPT 的说客做一些可以在话语中与无人机战争相提并论的事情是缺乏准确的目标。 然而，人工智能也有可能为此目的提供技术。

一个能够解释政治网络的系统，结合应用程序的文本生成功能，可以确定哪位国会议员在特定政策（例如公司税收或军费开支）中具有最大的影响力。 像游说者一样，这样的系统可以针对该国未定的代表，他们坐在决定服务于某人利益的政策的委员会中，然后在法案付诸表决时将他们的努力引导给执政党成员。

一旦确定了人员和策略，像 Chat GPT 这样的讨论机器人就可以生成文本消息，用于电子邮件、评论以及文本有用的任何地方。 游说者也可以直接针对这些人，这里的结合很重要：文章和社交媒体上的评论潜力有限，知道要针对哪些立法机关成员本身并不是进行操纵的充分条件。

强烈的攻击动机

这种理解和瞄准在线行为的个人的能力将创建一个黑客 AI 工具，该工具将以令人难以置信的速度和范围利用社会、经济和政治系统中的漏洞。 立法系统可能成为特定目标，因为攻击政治决策系统的动机非常强烈。 训练此类系统的数据随处可见，而且人工智能的使用很难被发现——尤其是在战略性地用于操纵人类行为时。

获得制定此类战略目标系统所需的数据只是时间问题。 开放社会通常依赖于透明度，而且大多数立法者都愿意——至少是正式地——接收和回应看似来自他们自己人民的信息。

人工智能系统完全有可能识别出哪些国会议员对领导层具有决定性影响，但他们的公众知名度足够低，以至于他们的注意力不会经常被吸引。 然后，她可以确定对立法机关该成员的公共立场影响最大的公共利益集团。 她甚至可以计算出影响组织或向其成员传达战略信息的目标广告所需的捐款数额。 对于每一个需要政治决策的目标，正确的受众，正确的信息在正确的时间。 这使得拥有人工智能武器的游说者构成的威胁大于昂贵的华盛顿街头游说公司所构成的威胁。 游说者利用数十年的经验来寻找成功塑造政治决策结果的战略解决方案。 这种经验是有限的，因此是准确的。

更快更便宜

然而，从理论上讲，人工智能可以更快、更便宜地实现同样的结果。 在舆论和媒体叙事可以快速整合的生态系统中，初始速度优势是巨大的，就像它们因应对全球范围内发生的混乱事件而迅速变化一样。

此外，人工智能的灵活性有助于同时影响多个决策过程和司法管辖区。 想象一下，一家由人工智能驱动的游说公司可以尝试修改提交给美国国会甚至每个州立法机构的每一项法案。 游说公司往往只在一个州开展业务，因为法律、程序和政治结构存在复杂差异。 人工智能可以更容易地在传统政治边界之外施加影响。

正如教育工作者必须根据 Chat GPT 带来的变化改变他们管理考试和学生作业的方式一样，政府也必须改变他们与游说者的关系。

毫无疑问，这项技术可以为民主环境带来好处，其中最主要的是可访问性。 经验丰富的说客不可能人人都付钱，但AI接入软件却可以人人可用。 如果我们幸运的话，也许这种生成战略的人工智能可以重振民主本身的民主化，给最弱势的公民带来类似的影响。

然而，更大、更强大的机构更有可能使用任何人工智能技术来产生最大的影响。 最后，获得最好的影响策略仍然需要系统内的人能够在立法机关的走廊中穿梭，还需要资金。 影响力不仅仅是在正确的时间向正确的人传递正确的信息。 虽然生成语音的机器人可以确定谁应该成为这些有影响力的活动的受益者，但在可预见的未来，人类将不得不为此付出代价。 因此，虽然无法预测未来充满 AI 武器的游说者会是什么样子，但它可能会进一步增加那些已经使用它们的人的影响力和权力。

Source link