XPost: alt.chinese.text
微软表示，在今年1月的台湾总统选举时期，该公司检测到更杂的AI内容激增。
_图片来源：Billy H.C. Kwok/Bloomberg News_
Dustin Volz
2024年4月5日15:00 CST 更新
根新的网络安全研究报告以及美国官员的说法，与中国政府有关联的线上行为者正越来越多地利用人工智能(AI)向美国、台湾等地的选民散布虚假信息。
这些与中国有关的行动通过社交媒体平台上的虚假账号发布虚假信息，寻求识别会引发分歧和争议的国家和地区内部政治议题，进而可能影选举。微软(Microsoft)周五新发布的一份网络威胁报告
指出的这手段属于最早被发现的一些策略，这些策略将生成式AI工具直接用于政府支持的针对境外选民的秘密网络影力行动。它们还展示了比以往所见更先进的方法。
X上的多个账户，包括一些注册于多年的账户，从去年开始发布关于美国的吸毒问题、移民政策、族关系紧张等话题的帖子，有时还让粉丝分享对总统竞选参选人的看法，可能是为了了解
国选民的政治观点。微软称，某些情况下，这些帖子依赖相对初级的生成式AI生成图像。
美国官员认为，中国在全球影力行动中日益上的影力令人担忧，因其报技术断发展，且政府的资源充足。例如，去年秋天，美国国务院指责中国政府为一项散步虚假信息的全球性行
每年花费数以亿计美元，利用海外投资和一系列手段来推进北京方面的地缘政治目标，并压制对其政策的批评。
微软的客户安全与信任部门主管Tom Burt在接受采访时说，过去六个月，中国散布虚假信息的行动变得活跃得多，这与同中国政府相关的网络攻击活动断增加相呼应。
“我们看到他们正在进行试验，”Burt说。“我很担心接下来事情可能会如何发展。”
另外，微软表示，在今年1月的台湾总统选举时期，该公司检测到更杂的AI内容激增，其中包括一个由AI制作的假音频，内容是一总统候选人支持余下的一候选人。这标志着这家科技巨头
风险研究人员首次发现有民族国家行为者使用AI来试图影境外选举。
在针对台湾受众的各视频中发现了人工智能生成的新闻主播。根微软的研究，这些视频的主角是台湾官员以及有关缅甸的信息。
_图片来源：Microsoft_
微软表示，这些帖子到目为止还没有引起太多关注，但它们预示着具有政府背景的选举影力行动将到来。西方情报官员表示，他们越来越担心AI工具会被用来制作大量误导性视频或其他内
，从而影今年的选举，包括今年的美国总统大选。安全专家称，AI生成的虚假音频片段构成的威胁尤其严，因为它们相对容易制作，而且事实已证明这些音频很容易欺骗听众。
美国情报界最近发布的一份年度全球威胁报告称，具有中国政府背景的行为者“已提高了开展秘密影力行动和传播虚假信息的能力”。“使北京方面对这些活动加以限制，受其直接监督的
个人可能也会试图开展他们认为符合中国政府目标的选举影活动。”这份报告还称，中国正在“试验生成式AI”，并加紧努力塑造美国在香港和台湾等问题上的言论。
中国政府曾多次表示，对制造和传播虚假信息，并称美国社交媒体充斥着大量有关中国的虚假信息。
此有几组已发表的同研究揭示了与中国政府有关的虚假信息行动，微软的这份报告是最新一份。总部设在伦敦的研究机构战略对话研究所(Institute for Strategic Dialogue)在一份新报告中指出，X网
上有少数其所称与中国有关的账户冒充美国总统特朗普(Donald J. Trump)的支持者，并试图诋毁美国总统拜登(Biden)。
在微软报告中点提到的去年11月的一个例子中，中国的网络水军抓住一起肯塔基州火车脱轨的事件，在社交媒体上散布阴谋论，诬蔑美国政府对此负有责任。这些账号将该事件与早已受到怀疑
一些理论联系到一起，这些理论称珠港事件和9.11袭击都是为了掩盖真相。
在另一个例子中，微软称中国试图在多个平台上散布阴谋论的虚假叙述，声称美国政府通过测试一“气象武器”蓄意引发了夏威夷毛伊岛沿岸的野火。微软表示，这一行动中，在数个网站上
至少发布了31语言的帖子，并使用了AI生成的着火的沿海道路和住宅图片，显然是为了更吸引受众眼球。
报告称，被微软称为Storm-1376的威胁行为者（又被称为Spamouflage或Dragonbridge)对宣传虚假信息的行动负有责任。西方网络威胁研究人员至少从2019年起就开始对这个行为者进行追踪。Meta Platforms去年
闭了数以计与Spamouflage有关联的账户，Meta当时称这是世界上已知规模最大的在线秘密影力行动。
微软表示，AI制作的台湾总统候选人郭台铭的虚假音频片段显示，他支持选举中的一剩余候选人。
_图片来源：Microsoft_
研究发现，一些最密集使用AI的视频是以台湾用户为目标受众的。根微软的研究，在以台湾官员为主题的各视频中发现了AI生成的新闻主播，这些主播是使用中国公司字节跳动(ByteDance)的工具
创建的。微软表示，Spamouflage从去年初就开始尝试使用AI生成的新闻主播，但近几个月来，这类内容的数量有所增加。
微软的Burt说，与中国相比，俄罗斯国家行为者的散布虚假信息策略总体上更令人象深刻，但中国正在迅速改进，部分得益于其投资规模。
Burt说，在台湾的选举中，“我们看到了他们通过使用AI学到的东西”。他说：“这大大提了他们在这些行动中使用的图像和信息的质量。”
微软没有透露该公司在所谓的虚假信息活动中追踪的账户身份。一发言人说，这是该公司的标准做法。
https://cn.wsj.com/amp/articles/%E4%B8%AD%E5%9B%BD%E6%AD%A3%E5%80%9F%E5%8A%9Bai%E5%90%91%E7%BE%8E%E5%9B%BD%E9%80%89%E6%B0%91%E5%92%8C%E5%8F%B0%E6%B9%BE%E6%95%A3%E5%B8%83%E8%99%9A%E5%81%87%E4%BF%A1%E6%81%AF-b0e99053
Fri, 05 Apr 2024 15:33:03 +0800
--
Mobot
If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.
--- SoupGate-Win32 v1.05
* Origin: fsxNet Usenet Gateway (21:1/5)