微软：中共用AI操纵社媒 煽动美国选民不安情绪(图)
中共用AI深伪科技制造“深伪主播”播报亲中共、贬抑美国的报导。（图片来源：推特）
【betway必威体育官网 2023年9月8日讯】（betway必威体育官网 记者杨天资综合报导）人工智能（AI）无限制的发展带来巨大隐患，据路透社报导，微软（Microsoft）研究人员在9月7日一份新报告披露，中共控制的社交媒体假帐号利用生成式人AI技术操弄有政治色彩的内容，企图煽动和影响美国选民的不安情绪。中共发展深伪科技，也早已引发国际关注。
微软：中共用AI操纵社交媒体 煽动美国选民不安情绪
据路透社报导，微软（Microsoft）研究人员在9月7日一份新报告上指出，他们发现，今年3月以来，据信由中共官方控制的社群媒体假帐号网络，就利用生成式人工智能（AI）技术操弄有政治色彩的内容，企图煽动和影响美国选民的不安情绪；这些社群媒体帐号为疑似中共资讯战行动的一环，其活动和美国司法部所指“（中共）公安部内的一个精英小组”的活动相类似。
微软表示，中共在社交平台假帐号网络的活动，从2023年3月左右开始使用生成AI技术，用英语创造带有政治色彩的内容，并“模仿美国选民”。微软研究人员并未具体指出受影响的社交媒体平台，但报告萤幕截图显示摘自脸书和推特（现为X）的贴文。
微软研究人员表示，比起中国假帐号在先前竞选活动中所使用的笨拙视觉效果，这些生成式AI创造的新内容“更引人注目”；中国假帐号过去视觉效果主要依赖数位绘图、库存照片拼贴和其他手工图形设计。
这份研究报告以一张中国帐号张贴的AI生成影像为例，该影像描绘自由女神像手持突击步枪，并配上说明字幕：“一切都被扔掉了。暴力女神。”
微软发言人表示，被认出来的中国假帐号透过将其公共位置列为美国境内、张贴美国政治口号、分享相关于国内政治议题的标签，试图让自己看起来是美国人。
报导称，此报告凸显社交媒体环境极度令人担忧的，而美国人正准备进入2024年总统大选。美国政府指控俄罗斯以隐蔽社群媒体活动暗地干预2016年大选，并警告中国、俄罗斯和伊朗后续试图影响选民。
中国上百家科技公司申请开发“深度伪造（deepfake）”技术
中共国家互联网信息办公室去年底制定“深度伪造（deepfake）技术使用规则”，据了解，包括华为、阿里巴巴等110家中国科技公司都已提出申请，要求批准他们发展可用于操纵视觉和音频数据的模型。中共发展深伪科技，也早已引发国际关注。
美国OpenAI公司今年推出功能强大的聊天机器人ChatGPT后，立刻爆红，更吸引多家中国科技公司投入开发。包含百度和商汤科技等5家公司8月30日获得政府批准后，已向公众推出AI聊天机器人。
“深度伪造（deepfake）”与聊天机器人不同的是，聊天机器人是根据用户的提示，生成全新的文本、图像和音频。深度伪造则使用AI技术，生成与原始数据几乎无法区分的视觉和音频数据，很容易被用在操纵或提供假讯息。
美国社群媒体分析公司Graphika今年２月7日就谈到，名为 《狼新闻（Wolf News）》的虚构新闻媒体，以AI深度伪造2个新闻主播，播报亲中共、贬抑美国的相关报导，被认为与中国政府有关。
从影片中可看到，自称艾利克斯（Alex）的虚构男主播，批评美国对困扰该国的枪枝暴力不作为；另一段影片中，虚构女主播则强调美中“大国合作”的重要性。
Graphika副总裁史塔布斯（Jack Stubbs）表示，“这是我们首次看到与国家结盟的行动，使用AI生成的虚构人物影片，来创建欺骗性的政治内容。”
AI恐让虚假讯息“进化”
由美国人工智能研究实验室OpenAI推出的聊天机器人ChatGPT在去年问世后，随即掀起热潮，更被视为人工智能重大突破。生成式人工智能（generative AI）发展快速，输出复杂的文章、并配合文本创造图像，虽然加大方便程度，但明年美国、英国、印度、印尼、墨西哥、台湾等多个国家即将举行选举，AI的迅速发展也使得人们担忧，在选举前，虚假讯息宣传活动可能会加剧。
《经济学人》报导认为，AI的确有可能会使虚假讯息“进化”。到了2024年，大型语言模型可能会使得虚假讯息的数量出现变化，而当假讯息数量增为上千倍甚至10万倍，就可能会说服人们做出不同投票决定；另外，在生成式AI的帮助下，虚假讯息的品质也会出现变化，虚假声音、照片、影片被揭穿前，超现实的“深度伪造”（deepfakes）可能影响选民；第三个可能出现的变化则是精准投放（microtargeting），选民可能会被量身打造的大规模宣传淹没，宣传机器人网络可能比现有的虚假讯息运作更难被发现。
错误讯息传播的社群媒体平台及人工智能公司表示正关注风险，美国人工智能研究实验室OpenAI表示，它将监控使用情况，尝试检测政治影响操作。