谷歌 AI 新功能上架又撤回本周谷歌宣布了一种使用人工智能的新方式但仅一天后就撤回了该功能。功能详情与体验截至周四用户可以使用谷歌的 Nano Banana 2 人工智能模型基于谷歌地球的卫星、航空和 3D 图像来生成图片。最初谷歌列举了一些在谷歌地球地图中使用新的 Nano Banana 功能的方式比如创建自定义信息图了解未曾去过的新地方或者重现其多年前的模样。用户甚至可以畅想未来比如设想新的基础设施或梦想中的家园。在该功能下架前有人亲自进行了尝试。在谷歌地球搜索栏中输入 中央公园放大该区域后点击 创建图像 按钮。短暂等待后便看到中央公园中央出现了梦想中的三层住宅——这显然不太现实。不过用户可以对图像进行优化还能将其保存到项目中。该功能仅支持在桌面端使用生成中央公园内房屋的图像需要几分钟时间。在周四的博客文章中谷歌最初表示这项新功能 能创造基于现实世界的概念。引发担忧与批评然而在记者和研究人员表达了担忧认为该功能可能会生成逼真的卫星图像被用于虚假信息传播后谷歌表示将重新审视加强管控。研究人员很快指出了该工具可能带来的危险。调查员 Henk van Ess 在其时事通讯 Digital Digging 上发布的一篇热帖中展示了该工具如何轻松生成虚假但逼真的图像例如伊朗的一座核电站。“谷歌花了二十年时间构建了全球信赖的参考数据”van Ess 写道“如今却添加了一个编造内容的按钮。”谷歌回应与移除功能面对各方批评谷歌周五在 X 平台上发表声明称在看到违反其政策的图像截图后将移除该功能。“因此我们将在谷歌地球中撤回这一功能同时着手实施更严格的管控措施”该公司表示“需要注意的是生成的图像不会出现在谷歌地球的主界面供他人查看并且会带有 AI 生成的水印。”AI 图像生成工具风险市面上有许多 AI 图像生成工具如 Canva 和 Midjourney。有些工具注重逼真效果允许用户编辑现有图像就像 Nano Banana 一样。用户可以在地图上用自己想象的世界比如芭比梦幻屋取代自己的家。但这也存在诸多风险这种虚假的真实感可能会导致虚假信息传播、欺骗行为以及产生片面的观点和叙述。得知用户只能修改自己的地图而无法改变所有人看到的谷歌地球有人稍微松了一口气。但这并不能阻止人们与他人分享截图或保存的地图项目这些内容可能描绘的是一个与现实不同的世界。当像谷歌这样值得信赖的科技公司推出此类 AI 功能时人们就更难分辨真假了。