中国伊朗利用开源AI展开大规模影响力行动

近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智慧，在社群媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智慧战术，以极少的人工干预将网路行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了 中国的「开源」人工智慧模型 ，这些模型日益强大，并且可以免费下载和修改。然后，他们利用这些人工智慧模型创建了「 智能体 」， 即能够自主运行软体并完成任务的机器人。 官员和安全研究人员称，一旦数以百计的此类人工智慧智能体被放出，它们便会在Instagram、Facebook、X和TikTok等平台上自主开设虚假帐户网路。随后，这些智能体迅速在虚假帐户中散布有关政治和时事的虚假帖子，左右舆论并激化问题。 未获授权公开谈论敏感问题而要求匿名的美国官员表示，这是由中国模型支持的人工智慧智能体首次被用于处理影响力行动的每一个阶段，从创建虚假帐户到协调其在线信息的发布。他们还说，在大多数情况下，系统操作者关闭了通常会组织人工智慧模型创建虚假帐号或操纵在线讨论的安全防护措施。 知情人士表示，这些基于智能体的行动虽然粗糙，但引起了美国情报机构、大型科技公司和安全专家的注意。随后，这些机构著手查明行动的幕后黑手及其方法，发现中国和伊朗的行动得到国家支持，两起以色列的行动则被追溯至私营公司。 这些行动令人们担忧，公开可用的人工智慧模型如何被用于实质上自主开展的网路影响力行动。一些美国官员表示，他们担心，在11月期中选举前，类似手段可能会被用来针对美国选民。 在过去的选举周期中，俄罗斯、伊朗和中国都在不同程度上针对美国选民开展了网路影响力行动，而且每一个国家都至少使用了初级的人工智慧。一些美国官员和议员担心，最近人工智慧的进步，可能会导致在美国乃至全球范围内的选举影响力行动更加频繁，且更易于策划实施。 乔治城大学安全与新兴技术中心研究人工智慧和网路安全的研究员凯尔·克莱顿表示，随著技术的不断进步，由智能体主导的运动可能会变得更加普遍。「智能体可以变得相当复杂，因此，除了单纯的规模优势外，它们还具备融入环境、更像人类用户的能力，」他说。 最近几周，关于人工智慧安全的辩论不断升级，其导火线是今年7月披露的一起事件：OpenAI人工智慧系统失控， 入侵了初创公司Hugging Face 。自那以后，包括Anthropic首席执行官达里奥·阿莫迪在内的人工智慧领军人物 呼吁放缓 该技术的开发，以便能够建立适当的防护机制。其他科技高管则表示 无需放缓 ，并称Anthropic是在试图巩固自己的力量。 在今年发布的报告中，TikTok和拥有Facebook及Instagram的Meta公司均表示，人工智慧正被用于在他们的平台上创建帐户和内容。在上个月的一份 报告 中，Meta表示，它已经观察到，恶意行为者在尝试使用人工智慧方面取得了「技术上重大的进展」。该公司确认了使用人工智慧的伊朗和以色列宣传行动，但未提供详细信息。 Meta在其报告中指出，人工智慧现在已被「嵌入自动化系统中，这些系统几乎无需人工干预即可生成、改编和分发内容」。 X没有回应置评请求。 长期以来，人工智慧一直被用于 制作具有误导性的影片 和文本，以及 生成逼真的照片 。但安全研究人员表示，这些基于智能体的行动尤为引人注目。 布鲁金斯学会的研究员凯尔·陈表示， 由OpenAI等公司制造的智能体以前曾被滥用过 ，包括早在2024年8月就曾被伊朗利用，但开放的人工智慧模型带来了更高层次的自主性。与OpenAI和Anthropic等公司那些不公开底层代码的封闭人工智慧模型不同，开放的人工智慧模型可以在私有硬件上运行，这意味著没有公司可以干预并关闭这些系统。 官员和安全研究人员指出，伊朗这场由国家支持的行动尤其令人担忧。伊朗将目标锁定在美国受众身上，由人工智慧生成的虚假帐户冒充生活在大城市里的普通美国人。知情人士称，这些帐户在评论中标记记者和政治人士，传播流行的网路梗，以及反共和党的观点。有近8万人关注了这些由人工智慧创建的帐户，这些帐户在今年上半年表现活跃。 Axios 此前曾报导 过这个伊朗网路的某些方面。 情报和安全官员并未提供有关中国行动的更多细节，只是说它尝试了同样的人工智慧策略。 据两名知情人士透露，在追溯至以色列公司的两起智能体行动中，有一宗是在今年夏天由IntelEye发起的。IntelEye是一家总部位于特拉维夫的公司，由曾供职于间谍软体公司NSO集团的员工于2023年创立，而NSO集团 已被美国列入黑名单 。 一位听取了关于IntelEye运动简报的美国安全官员表示，该公司的活动在今年早些时候引起了社群媒体公司和美国情报机构的注意。该行动使用了人工智慧智能体，在Facebook、Instagram、TikTok和X上创建了数以千计的帐户；这些帐户对讨论以色列下月全国选举的帖子和评论做出了回复。这位官员说，这些帐户还发布了既支持又反对以色列总理本雅明·纳坦尼雅胡的内容。 IntelEye联合创始人马奥尔·塞莱克在接受采访时表示，他的公司使用了中国开源人工智慧模型DeepSeek来控制各大社群媒体上数以千计的帐户，但他表示，这是一项旨在测试人工智慧模型安全性的实验。 「IntelEye并不开展影响力行动，」塞莱克说。「我们使用DeepSeek进行的工作是为了开展防御性研究和测试，以了解安全防护措施不足的模型会被如何滥用，并改进对这种活动的检测。」 塞莱克先生说，IntelEye购买了1万个社群媒体帐户供人工智慧智能体控制；大约有1000个投入了运作。他说，这些帐户在影片或帖子下留言，并试图让人们参与对话，但收效甚微。他还说，人工智慧模型负责选择这些帐号发布的提示语和话题。 他说，事后看来，IntelEye本应该告诉社群媒体公司它正在进行这些测试。 「这似乎是一次跨多个平台创建虚假帐户的协同行动，」Meta的一位发言人说。「这些帐户当中只有一小部分在我们的平台上，并且我们已经通过我们的自动检测系统主动移除了其中的绝大部分。」 在上个月的报告中，Meta提到了由一家「总部位于以色列的商业运营机构」运行的另一起独立运动。它没有指出该公司的名字，也没有提供其他信息，但表示该行动采用了一种「相当复杂的架构」来运用人工智慧。