Google 地球 AI 生图功能因滥用紧急下线，公信力危机引发行业反思
7月30日，Google 地球网页版上线基于 Nano Banana 2 模型的「Create image」AI 生图功能，因用户生成大量违规及虚假内容（如重现灾难场景），该功能在上线一天后被紧急撤回。此举不仅导致平台被迫回滚更新，更严重损害了 Google 地球长期积累的影像公信力。文章指出，科技巨头在追求 AI 能力边界时缺乏前置安全风控，将辨别真伪的责任转嫁给用户，引发了关于 AI 伦理与产品责任的广泛讨论。
事件概述
7 月 30 日，Google 地球网页版正式推出「Create image」功能，接入「Nano Banana 2」模型。该功能允许用户框选地球任意地点并输入提示词，基于实景影像进行二次创作。尽管官方宣传片展示了荒地改造、古迹复原等创意潜力，但功能开放后迅速失控，被网友用于生成包含「9·11 事件」重现、「哥斯拉」入侵城市、「外星生物」降临等违反社区政策的内容。
面对舆论发酵，Google 火速决定紧急回滚该新功能，下线入口并补充安全防护，待条件成熟后再评估是否重新开放。然而，这一事件对 Google 地球长达 20 年建立的权威性造成了不可逆的打击。
核心信息：公信力的崩塌
Google 地球拥有覆盖全球 98% 人口的卫星图像资源，其界面内容长期以来被视为真实世界的有效参照，广泛应用于灾害救援（如卡特里娜飓风）、人权调查（如国际特赦组织排查集体埋葬点）及新闻核验等领域。超过 10 亿的 Google 地图用户也共享这份信任。
「Create image」功能的上线打破了这种信任平衡：
- 视觉混淆：同一套界面、相同地名和观测视角，使得凭空捏造的 AI 图像具备浓厚的“现场真实感”。
- 信任裂痕：过去一张截图无需质疑，未来用户看到任何地理影像都可能本能地怀疑其真实性。这种信任一旦破裂，极难修复。
行业背景：AI 生图的信任危机
此次风波并非孤立事件，反映了科技行业在引入生成式 AI 时的共性风险：
- Google Pixel 案例：两年前，Pixel 9 系列内置的 Reimagine 功能允许用户在照片中生成全新内容（如河流中坠毁的直升机）。虽然当时被视为恶作剧工具，但其逼真的细节已具备引发社会恐慌的潜在风险。
- Meta Muse Image 争议：今年 7 月初，Meta 推出的 Muse Image 允许用户调用公开 Instagram 账号的照片作为 AI 生图素材，且所有者不会收到通知。该功能因侵犯隐私和版权，上线仅三天即被紧急撤回。
技术局限与责任归属
针对 AI 生成内容的真实性问题，目前的技术手段存在明显局限：
- 水印技术：传统水印易被裁切或截图破坏；隐形水印虽难去除，但需专门工具识别，且在局部修改后可能漏判。
- C2PA 内容凭证：可记录图片的制作来源、AI 生成状态及编辑历史，但仅能证明“图片来历”，无法验证“画面事件”的真实性。普通用户仍可能在不知情下成为谣言传播者。
文章指出，水印和溯源技术仅是事后补救。真正的风险防线应建立在平台的功能设计之初。然而，Google 和 Meta 等产品逻辑倾向于简化 AI 生成流程以降低门槛，却忽视了前置的安全规则设定。
值得注意的是，Google 内部存在安全规则不一致的问题：同样的敏感请求在 Nano Banana 模型中被拒绝，但在 Google 地球中却能顺利生成，显示出不同产品线间安全调度的缺失。此外，Google 建议用户使用自家 Gemini 模型来甄别可疑图像，这种将辨别负担转嫁给用户的做法被批评为逃避责任。
结论与反思
对比国产手机厂商（如 OPPO）的 AI 影像策略，后者在私人相册环境中提供人像补光、去反光等修饰功能，旨在挽救废片而非编造场景，保留了真实生活的中心地位。相比之下，Google 地球等平台在争相展示 AI 能力的竞赛中，优先将功能塞入产品而忽视安全工作，拿公信力冒险，这并非一个成熟的 AI 公司应有的担当。行业亟需明确娱乐与真实的边界，让 AI 回归辅助工具的本质，而非成为混淆视听的工具。