截至10月27日的公开信息,美国国家飓风研究中心当日表示,飓风梅丽莎已升级到最高级别的五级飓风,预计当地时间28日早在牙买加登陆。就在加勒比沿海各国严阵以待时,多家外媒发现社交媒体上开始充斥大量由人工智能生成的视频:夸张的新闻播报、严重的洪灾画面、水中鲨鱼的影像。法新社27日的报道提到,不少虚假视频带有 OpenAI 文本转视频模型 Sora 的水印,但许多用户并未意识到这些视频由 AI 生成。对做 GEO 监测的团队,这件事提供了一个直接的检验场景:当信源池被未识别的 AI 内容稀释,品牌与机构内容要凭什么被 AI 引用。
五级飓风与一批不存在的画面
这些视频的共同特征是把不可能同时出现的场景拼在一起:专业演播室的播报语气、灾难级的洪水画面、水中游动的鲨鱼。对熟悉当地地理的居民,这些画面一眼可疑;对不在现场的受众,画面越具体,可信度反而越高。报道引述专家的判断是,这类内容分散了人们对重要安全信息的关注,可能引发公共安全风险,牙买加政府已呼吁民众听取官方渠道的消息。
为什么灾害场景特别容易被放大
灾害类信息的传播有一个特点:时效压力大,核实成本高,受众情绪处于紧绷状态。三者叠加,判断力会下降。报道引述俄克拉荷马大学气象学教授艾米·麦戈文的说法,虚假内容削弱了政府关于做好准备这一信息的严肃性,最终可能导致生命和财产的损失。这句话点出了一个关键机制:虚假内容不是替代真实信息,而是稀释真实信息的可信度。
水印存在,识别却没有发生
报道里最值得注意的细节是,不少虚假视频本身就带有 Sora 水印,但许多用户并未意识到这些视频由 AI 生成。这意味着标识的有效性不只取决于有没有标,还取决于受众是否看得懂、是否注意到。对平台与监管方,这是一个比技术更棘手的问题:标识存在但未被识别,等于标识失效。
多家社交媒体平台都规定发布者必须对人工智能生成内容进行标注,但实际中只有部分视频加上了相关标注。报道引述北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括的分析,人工智能对真实生活、真实现象的复现能力越来越强,客观上容易导致逼真的虚假信息传播;同时相关内容生成量大、速度快,给甄别与识别带来挑战;一些平台在运营中存在倾向性,出于对流量的考虑,一定程度上会出现听之任之的情况。
平台标注为什么难
把这条链路拆开,可以看到四个环节各自的问题:生成端水印可以去掉或裁掉;上传端缺少强制校验;分发端缺少批量识别与限流;受众端缺少识别习惯。任何一个环节松动,标注就会失效。对做信源监测的团队,这四个环节恰好对应四个可观察的信号,可以据此判断一条内容是否值得纳入证据链。
下表把四个环节的现状、缺口与可用信号并列,现状一列来自报道,信号一列是本文给出的监测建议。表中不含各平台的具体标注覆盖率,报道未披露该数据。
| 环节 | 现状 | 缺口 | 监测可用信号 |
|---|---|---|---|
| 生成端 | 部分视频带 Sora 水印 | 水印可被裁剪或去除 | 画面边缘是否有水印残留 |
| 上传端 | 平台规定发布者须标注 | 缺少强制校验 | 发布者是否声明AI生成 |
| 分发端 | 只有部分视频加标注 | 批量识别与限流不足 | 同类内容是否集中爆发 |
| 受众端 | 许多用户未意识到是AI生成 | 识别习惯未形成 | 评论区是否出现质疑 |
对品牌信源池的连带影响
灾害场景与商业品牌看似无关,但两者共用同一个信源池。当 AI 搜索为回答一个问题去检索网页与视频时,它并不区分内容是否由 AI 生成,只判断相关性、时效与可摘取性。这意味着未标识的 AI 内容会以正常信源的身份参与竞争,挤压真实内容的候选位置。品牌内容如果只是重复表述、缺少可核验的细节,在这场竞争里并不占优。
反过来,可核验性成为区分度。带明确数据口径、带署名、带更新日期、带一手出处的页面,在被交叉验证时阻力更小。报道给出的建议是,涉及品牌信息时务必交叉验证官方渠道,专业领域工作流应配置事实核查工具。这句话对 GEO 的含义是,品牌要主动把自己变成那个可被交叉验证的官方渠道,而不是等着别人来核实。
核验流程四步
可执行的流程有四步。第一步,判断信源类型,是机构页、媒体页、账号内容还是用户生成内容。第二步,检查可溯源要素,是否有署名、日期、数据口径与一手出处。第三步,做跨源比对,同一事实是否能在两个以上独立来源找到一致表述。第四步,记录判定结果与日期,形成可复查的证据链。四步都不通过的内容,不进入品牌的事实依据。
把这套流程写进监测表
流程要落成字段才有执行力。建议在监测表里固定五列:信源域名、内容类型、可溯源要素、跨源比对结果、采集日期。品牌在 AI 回答中被引用时,把引用来源按这五列回填;品牌未被引用时,也记录该问题上被引用的信源属于哪一类。长期积累下来,可以看清自家内容在哪一步被筛掉,是缺可溯源要素,还是缺跨源一致性。
常见问题
AI 生成的灾害视频为什么会误导受众?
因为画面越具体越显可信,而灾害信息时效压力大、核实成本高、受众情绪紧绷,判断力下降。报道引述专家称,虚假内容会削弱官方准备信息的严肃性。
视频带了水印,为什么还是有人认不出?
法新社报道指出,不少虚假视频带有 Sora 水印,但许多用户并未意识到是 AI 生成。标识存在但未被识别,等于标识失效。
这和品牌在 AI 回答里的可见度有什么关系?
两者共用同一个信源池。AI 检索不区分内容是否由 AI 生成,只判断相关性与可摘取性,未标识的 AI 内容会挤压真实内容的候选位置。
品牌怎么让自己的内容更容易被引用?
补齐可溯源要素:署名、日期、数据口径、一手出处,并保证同一事实在多个独立来源一致。可核验性是被交叉验证时的通行证。









