划重点:
- 谷歌的 ai overview 产品在推出时出现了一些怪异回答，导致谷歌需要手动禁用特定搜索的 ai overviews。
- 一些用户在社交媒体上发布了各种有趣的回答，但很快就被删除。
- 这个失误显示了 ai 领域竞争的艰难性，以及在 ai 技术完善之前进行优化的风险。
站长之家（chinaz.com）5月27日 消息:谷歌的 ai overview 产品最近推出后，社交媒体上涌现了一些怪异的回答，例如建议用户在披萨上涂胶水或吃石头。这个失误导致谷歌不得不手动禁用特定搜索的 ai overviews，因为各种有趣的回答很快就被发布到社交网络上。
谷歌的发言人梅根・法恩斯沃思在邮件中表示，虽然许多例子都是罕见的查询，但也有些例子是被篡改或无法重现的。
图源备注：图片由ai生成，图片授权服务商midjourney
令人奇怪的是，谷歌已经在过去一年中进行了 ai overview 的测试，这个功能于2023年5月作为搜索生成体验的测试版推出，并且首席执行官桑达尔・皮查伊表示，在那段时间里，谷歌已经提供了超过10亿次查询。然而，皮查伊也表示，在这段时间里，谷歌将提供 ai 回答的成本降低了80%，这主要得益于硬件、工程和技术突破。但很明显，这种优化可能发生得太早了，技术还没有准备好。
人工智能专家加里・马库斯指出，很多 ai 公司都在向人们 “销售梦想”，认为这项技术可以从80% 的准确率提高到100%。马库斯表示，实现最初的80% 相对简单，因为它只涉及到近似大量的人类数据，但最后的20% 非常具有挑战性。他认为，最后的20% 可能是最困难的部分，需要进行推理来判断回答是否合理、来源是否可信，这可能需要人工智能具备人类的智能。此外，马库斯和 meta 的 ai 主管 yann lecun 都认为，目前支撑谷歌的 gemini 和 openai 的 gpt-4等大型语言模型不可能创造出人工通用智能。
谷歌对 ai overview 有着宏大的计划，目前产品的功能只是谷歌上周宣布的一小部分。包括复杂查询的多步骤推理、生成 ai 组织的结果页面、google lens 中的视频搜索等等。但目前，谷歌最需要做的是将基本功能做好，而在这方面它的表现并不出色。
马库斯表示:“这些模型本质上无法对自己的工作进行合理性检查，这就是这个行业面临的问题。” 谷歌正面临巨大的竞争压力，bing 在人工智能领域领先于谷歌，openai 正在开发自己的搜索引擎，一家新的 ai 搜索初创公司已经价值10亿美元，而更年轻的用户则转向 tiktok，寻求更好的体验。谷歌明显感受到了竞争的压力，这也导致了混乱的 ai 发布。马库斯指出，2022年，meta 发布了一个名为 galactica 的人工智能系统，但不久后就被下架，其中一个原因就是它告诉人们吃玻璃。这听起来很熟悉。
谷歌需要解决这个尴尬的局面。他们希望 ai overview 能实现更多的功能，但目前他们最需要做的是确保基本功能的准确性，而这方面的表现并不出色。