“失控”的中国开源AI模型
不同于封闭式模型，开发商无法控制
助长舆论战等行动……也有利用DeepSeek的案例
据悉，伊朗和中国将中国开源人工智能（AI）模型与AI智能体相结合，在社交媒体上大规模创建虚假账号，并用于操纵美国舆论。
当地时间18日，《纽约时报》援引美国政府官员及安全研究人员报道称，伊朗、中国以及以色列部分私营企业近期利用基于中国开源AI模型的AI智能体开展网络影响力行动。
这些机构利用中国开源AI模型创建AI智能体，随后将数百个智能体投放至社交媒体。AI智能体在Instagram、Facebook、X（原Twitter）、TikTok等平台自动注册虚假账号，撰写并传播有关政治和社会议题的虚假帖文。协调多个账号信息的工作也由AI完成。
美国官员表示，由AI智能体负责从创建虚假账号、撰写内容到协调信息的整个影响力行动流程，事实上尚属首次。据悉，运营者还大多解除了原本用于防止AI创建虚假账号或操纵网络舆论的安全限制。
尽管行动本身仍较为粗糙，美国情报机构和主要科技企业正密切关注此事。调查显示，中国和伊朗的行动获得国家支持；而在以色列进行的两起案例，则被认定由私营企业主导。
美国政府还担忧，在2026年11月中期选举前，这类方式可能被用于针对美国选民。俄罗斯、伊朗和中国过去也曾在美国选举期间开展网络影响力行动，但随着近期AI技术发展，如今能够以少得多的人力实现大规模自动化。
美国情报部门也在关注伊朗可能开展的行动。伊朗方面AI智能体创建的虚假账号伪装成居住在美国主要城市的普通美国人。这些账号标记记者和政治人物，传播热门网络迷因及批评共和党的内容。据悉，2026年上半年活跃的这些账号拥有约8万名关注者。此前已发现，中国曾试验过与伊朗类似的AI战术。
以色列私营企业的案例也得到确认。特拉维夫AI安全企业IntelEye利用中国DeepSeek的开源AI模型控制数千个社交媒体账号。该公司表示，其购买了1万个类似账号，其中约1000个实际由AI智能体运营。
AI不仅对帖文和视频发表评论、尝试与用户对话，甚至能自行选择讨论何种话题。这些账号围绕下月举行的以色列大选，发布支持或反对总理Benjamin Netanyahu的内容。
不过，IntelEye方面主张，这并非实际的影响力行动，而是用于检查AI安全性的实验。Meta表示，已将相关活动界定为“试图跨多个平台创建虚假账号的有组织行为”，并通过自动侦测系统删除了大部分相关账号。
专家认为，中国开源AI模型的普及可能令此类行动更难应对。与OpenAI或Anthropic等企业的封闭式模型不同，开源模型可在个人服务器或设备上直接运行，因此开发商难以阻止其使用或重新施加安全限制。
乔治敦大学安全与新兴技术中心研究员Kyle Crichton表示：“AI智能体可能变得相当精密。它们不仅能扩大规模，还可能混入其中，使自己看上去像真实用户。”
《纽约时报》指出，虽然此前已有利用AI制作虚假图片、视频和文章的案例，但能够创建和运营虚假账号、自行执行整体舆论战的AI智能体出现，标志着进入了新阶段。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
