又翻车了!谷歌急于手动删除搜索中的奇怪AI答案|TodayAI

2024-05-25 13:28

本文主要是介绍又翻车了!谷歌急于手动删除搜索中的奇怪AI答案|TodayAI,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

谷歌公司近日确认,正在“迅速采取行动”删除一些AI工具的奇怪回应。社交媒体上充斥着谷歌新AI概览产品(AI Overview)说出奇怪话语的例子,从告诉用户在披萨上涂胶水到建议他们吃石头。这次混乱的AI发布导致谷歌不得不手动禁用某些搜索结果的AI概览,因为许多搞笑的网络热梗被发布,这也是为什么用户在社交网络上发布内容后不久就看到这些内容消失的原因。

这一情况令人费解,因为谷歌已经测试AI概览一年多了。该功能于2023年5月作为搜索生成体验(Search Generative Experience)在测试版中推出。首席执行官Sundar Pichai表示,在这段时间内,公司处理了超过十亿次查询。但Pichai也提到,谷歌在同一时间内将提供AI答案的成本降低了80%,“这主要是由于硬件、工程和技术突破。”然而,这种优化可能过早发生,技术尚未完全准备好。

“一家曾以最前沿技术和高质量产品著称的公司,现在却因低质量输出而闻名,这些输出还成为了网络热梗。”一位不愿透露姓名的AI创始人表示。

谷歌继续声称,其AI概览产品主要向用户输出“高质量信息”。发言人Meghann Farnsworth在一封电子邮件中表示:“我们看到的许多例子都是不常见的查询,我们也看到了被篡改或无法再现的例子。”她还确认,公司正在“迅速采取行动”删除某些查询的AI概览,“在适用的内容政策下,并利用这些例子来开发我们系统的更广泛改进,其中一些已经开始推出。”

纽约大学神经科学荣誉教授兼AI专家Gary Marcus指出,许多AI公司正在“销售梦想”,声称这项技术将从80%正确率提升到100%。Marcus表示,实现最初的80%相对简单,因为它涉及到大量人类数据的近似,但最后的20%极具挑战性。事实上,Marcus认为最后的20%可能是最难的。

“你实际上需要进行一些推理来决定:这件事是否可信?这个来源是否合法?你需要像人类事实核查员那样做一些事情,这实际上可能需要人工通用智能,”Marcus解释道。他和Meta的AI负责人Yann LeCun都同意,目前驱动谷歌的Gemini和OpenAI的GPT-4等AI系统的大型语言模型不会是创造人工通用智能(AGI)的工具。

谷歌目前处于一个艰难的局面。微软在谷歌之前就通过Satya Nadella著名的“我们让他们跳舞”言论大举进军AI,OpenAI据报道正在开发自己的搜索引擎,一家新的AI搜索初创公司已经价值10亿美元,而只想要最佳体验的年轻一代用户正在转向TikTok。公司显然感受到了竞争的压力,而这种压力导致了混乱的AI发布。

Marcus指出,2022年Meta发布了一个名为Galactica的AI系统,不久后就被撤下,因为它告诉人们吃玻璃等问题。这听起来很熟悉。谷歌对AI概览有宏伟的计划,目前的功能只是公司上周宣布的内容的一小部分。复杂查询的多步推理,生成AI组织的结果页面的能力,Google Lens中的视频搜索——这些都是谷歌的雄心所在。但现在,公司声誉取决于能否把基本的事情做好,而目前的情况并不乐观。

“这些模型本质上无法对自己的工作进行理智检查,这正是这个行业被咬到的地方,”Marcus总结道。

 

这篇关于又翻车了!谷歌急于手动删除搜索中的奇怪AI答案|TodayAI的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1001629

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

AI绘图怎么变现?想做点副业的小白必看!

在科技飞速发展的今天,AI绘图作为一种新兴技术,不仅改变了艺术创作的方式,也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式,帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具,可以扫描下方,免费获取 定制服务:个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如,姓氏头像在电商平台上非常受欢迎,

从去中心化到智能化:Web3如何与AI共同塑造数字生态

在数字时代的演进中,Web3和人工智能(AI)正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术,正相互交织,共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界,并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展,它基于去中心化的区块链技术,旨在创建一个开放、透明且用户主导的数字生态。不同于传统

认识、理解、分类——acm之搜索

普通搜索方法有两种:1、广度优先搜索;2、深度优先搜索; 更多搜索方法: 3、双向广度优先搜索; 4、启发式搜索(包括A*算法等); 搜索通常会用到的知识点:状态压缩(位压缩,利用hash思想压缩)。

hdu1240、hdu1253(三维搜索题)

1、从后往前输入,(x,y,z); 2、从下往上输入,(y , z, x); 3、从左往右输入,(z,x,y); hdu1240代码如下: #include<iostream>#include<algorithm>#include<string>#include<stack>#include<queue>#include<map>#include<stdio.h>#inc

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

电脑桌面文件删除了怎么找回来?别急,快速恢复攻略在此

在日常使用电脑的过程中,我们经常会遇到这样的情况:一不小心,桌面上的某个重要文件被删除了。这时,大多数人可能会感到惊慌失措,不知所措。 其实,不必过于担心,因为有很多方法可以帮助我们找回被删除的桌面文件。下面,就让我们一起来了解一下这些恢复桌面文件的方法吧。 一、使用撤销操作 如果我们刚刚删除了桌面上的文件,并且还没有进行其他操作,那么可以尝试使用撤销操作来恢复文件。在键盘上同时按下“C

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件,然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它,快速获取到想要知道的信息。https://www.chatpdf.com/