核心要点
- 本周，与委内瑞拉局势及该国被罢免领导人尼古拉斯・马杜罗相关的误导性人工智能生成视频和图片，在各大平台收获数百万次浏览量。
- 与此同时，主流社交媒体平台及其人工智能检测工具正难以跟上人工智能技术的发展速度，在突发新闻事件期间，这一问题尤为突出。
在美国军方采取行动推翻委内瑞拉领导人尼古拉斯・马杜罗之后，一批声称展现委内瑞拉民众街头欢庆场景的人工智能生成视频在社交媒体上迅速走红。
这些由人工智能合成的视频片段描绘了民众欢呼雀跃的画面，在抖音、照片墙和 “X” 平台等主流社交平台上累计获得数百万次观看。
“X” 平台上最早且传播最广的相关视频片段之一，由名为 “华尔街猿” 的账号发布，该账号在平台上拥有超过 100 万粉丝。
这条帖子呈现了多名委内瑞拉民众喜极而泣的场景，画面中的民众还对美国及总统唐纳德・特朗普推翻马杜罗的行为表达了感谢。
该视频随后被 “X” 平台的 “社区备注” 功能标记。这一功能是平台依托用户众包开展的事实核查机制，允许用户为其认为具有误导性的帖子补充背景信息。备注内容显示：“此视频由人工智能生成，目前被当作真实事件传播，意在误导公众。”
这条视频的浏览量已超 560 万次，被至少 3.8 万个账号转发分享，其中包括商界大亨埃隆・马斯克，不过马斯克最终删除了该转发内容。
美国消费者新闻与商业频道（CNBC）未能核实该视频的来源，但英国广播公司（BBC）和法新社（AFP）的事实核查人员表示，已知的该视频最早版本出现在抖音账号 “@美国好奇智库”，该账号经常发布人工智能生成内容。
事实上，早在这类视频出现之前，在特朗普政府发布马杜罗被捕的真实照片前，网络上就已经流传着由人工智能生成的马杜罗被美方羁押的相关图片。
这位委内瑞拉前总统于 2026 年 1 月 3 日被捕，当时美军发动了空袭与地面突袭行动。这场军事行动在新年伊始占据了全球各大媒体的头条位置。
除了这些人工智能生成视频外，法新社的事实核查团队还标记了多条与马杜罗倒台相关的误导性内容，其中包括将智利民众的庆祝画面伪造成委内瑞拉场景的视频片段。
重大新闻事件期间滋生虚假信息并非新鲜事。此前在巴以冲突和俄乌冲突期间，也曾出现过类似的不实或误导性内容。
然而，此次与委内瑞拉近期局势相关的人工智能生成内容，凭借其广泛的传播范围和高度的逼真度，成为人工智能技术日益沦为虚假信息传播工具的鲜明例证。
像苏蕊和米德尔旅程这类人工智能内容生成平台的出现，使得人们能够更便捷地快速制作超写实视频，并在突发新闻引发的信息混乱中冒充真实内容传播。这类内容的制作者往往意在放大特定政治叙事，或是在全球受众中制造认知混乱。
去年，一段由人工智能生成的视频也曾在网络上疯传，视频中几名女性控诉政府停摆期间自己失去了补充营养援助计划（即 “粮票计划”）的福利补贴。该视频甚至骗过了福克斯新闻频道，后者曾将其当作真实事件撰写报道，相关文章后来才被删除。
鉴于此类趋势愈演愈烈，社交媒体公司正面临越来越大的压力，外界要求它们加大力度，为具有潜在误导性的人工智能生成内容添加明确标签。
去年，印度政府提出一项法案，要求对人工智能生成内容强制标注；西班牙则出台法规，对未标注的人工智能生成内容最高可处以 3500 万欧元的罚款。
为回应日益增长的担忧，抖音、元宇宙平台等主流社交媒体均已推出人工智能内容检测与标注工具，但实际效果参差不齐。
美国消费者新闻与商业频道（CNBC）发现，抖音平台上部分被当作委内瑞拉欢庆场面传播的视频，已经被标注为人工智能生成内容。
而 “X” 平台在内容标注方面，主要依赖 “社区备注” 功能。批评人士指出，这一机制往往反应迟缓，难以阻止人工智能虚假信息在被识别前大面积扩散。
负责监管照片墙和 “思瑞德” 平台的亚当・莫塞里，在最近的一则帖子中坦承了社交媒体行业面临的这一挑战。他表示：“所有主流平台都会在识别人工智能生成内容方面付出努力，但随着人工智能技术愈发擅长模仿现实，平台的识别能力反而会逐渐下降。”
他还补充道：“如今，越来越多的人和我一样认为，相比给虚假内容做标记，为真实内容设置数字水印将是更可行的方案。”
