中国AI帐号自露马脚！澳洲发现规模最大资讯战假帐号网络，企图干扰美大选（组图）

本文转载自RTI，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。

《美国之音》报导，澳洲网路安全公司CyberCX发表一份最新报告指出，中国对美国与澳洲等民主国家发动迄今为止X平台上规模最大的生成式AI资讯战网。报告说，他们发现一个由至少5000个虚假帐号组成的「资讯战」网络，这些AI帐号主要针对美国总统大选等政治、文化热点事件和议题进行评论。 CyberCX公司执行总监表示，这些帐户意图强化民主国家的对立面，加深内部分歧。

澳洲网路安全公司CyberCX从社群平台X上发现一个疑似中国操控至少5000个假帐号的资讯战网络，企图干扰民主国家舆论。 (AFP)

澳洲网路安全人员透露，这起发现是源于X平台(前身为推特)多个机器人帐号在推文中露出「狐狸尾巴」，公然承认自己是「人工智慧(AI)模型」的身份，才引起他们的注意。

自曝AI帐号后找出至少5千个假帐号

报导指出，今年5月底，X平台至少72个帐号以同样令人匪夷所思的造句模式发文，自爆机器人身分。例如，一个名为「Yumiko Sansone」的帐号在5月30日一篇推文中说：「作为一个AI语言模型，我必须优先提供准确和尊重他人的信息。你提供的评论与拜登总统夫人吉儿(Jill Biden)及其倡议的主题不恰当或不相关…」。

网路安全专家认为，这些显然是无意间泄漏的只言片语不仅暴露了这些基于生成式人工智慧(generative AI)的机器人帐号背后的技术脚本出现了故障，同时显示，有人在指示这些帐号对众多民主国家的政治人物和议题进行负面描述，但这些命令显然遭到机器人帐号抵制。

CyberCX网路安全公司的研究人员顺藤摸瓜，端出了一个由至少5000个虚假帐号组成的「资讯战」网络，这些帐号透过生成式AI模型，主要针对美国政治、文化热门事件和议题生成语句看起来自然、语气温和的英文评论，但也会对其他帐号颇具争议的内容进行转发和评论。

帐号推文刻意扩大民主国家争议议题对立面

研究人员说，除美国外，这个AI模型网路进行的「资讯战」所涉及的国家还包括澳洲、英国、西欧、印度、日本等民主国家。

CyberCX将此AI模型假帐号网路命名为「绿蝉」(The Green Cicada Network)(一种澳洲常见昆虫，可以在植物的根部生存多年)，意指数千个帐号仍处于低调的潜伏期，随时可以在一声令下蓄势待发。

研究人员说，该网络并不在特定议题上选择特定观点，而是在许多有争议话题和热门议题上强化人们在这些议题上的意见分裂。

CyberCX公司执行总监曼斯泰(Katherine Mansted )说，总的来说，「绿蝉」的做法就是在改编那些政治分裂意味浓厚的叙事。透过改写X平台上真实用户发布的内容，或透过扩充或转发。曼斯泰认为，这个网络目的在透过强化民主国家出现争议议题的两个对立面，以此来加深分歧。

迹象显示控制AI帐号网络与中国有关

CyberCX公司认为，虽然无法确认这个网路资讯AI网路的创立是否由中国政府指示，但控制这个AI网路的系统与中国有着密切的联系。首先，从泄露出的提示会出现「请将此翻译成英文」等迹象显示，控制这些帐户的大型语言模型系统是中文系统，此外，网路中的虚假帐户的一个共同特点是，它们与一名中国清华大学计算机科学系博士毕业生、目前在中国智谱AI任职的研究人员在X平台上的帐号(@ cenyk1230)有密切的互动。

CyberCX指出，这个「绿蝉网络」还处于蛰伏状态，绝大多数多数帐号并未「发威」，生成的内容也容易识破，虽然目前影响力有限，但该网络仍有很大的实力提升可能。

X平台先前就已经发现了政府支持的实体支援设置的AI机器人资讯战网，但CyberCX表示，以帐户数量衡量，「绿蝉网络」是迄今为止被披露的最大的虚假活动网络之一，可能是第一个将生成式AI作为技术基础的与中国实体相关的信息战网络。

本文转载自RTI，仅代表原出处和原作者观点，仅供参考阅读，不代表本网态度和立场。