Vicarious发表Science论文:概率生成模型超越神经网络

本文主要是介绍Vicarious发表Science论文:概率生成模型超越神经网络,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

当前人工智能的兴起主要基于深度学习的发展,但是这种方法并不能让计算机像人类一样通过学习少量样本就能将知识泛化到很多种问题中去,这也意味着系统应用范围受限。最近,知名人工智能创业公司 Vicarious 在 Science 上发表的研究提出了一种全新概率生成模型。新的模型具有识别、分割和推理能力,在场景文字识别等任务上超过了深度神经网络。研究人员称,这种方法或许会将我们带向通用人工智能。


论文:A generative vision model that trains with high data efficiency and breaks text-based CAPTCHAs




论文链接:http://science.sciencemag.org/content/early/2017/10/25/science.aag2612


摘要:从少数样本学习并泛化至截然不同的情况是人类视觉智能所拥有的能力,这种能力尚未被先进的机器学习模型所学习到。通过系统神经科学的启示,我们引入了视觉的概率生成模型,其中基于消息传送(message-passing)的推断以统一的方式处理识别、分割和推理(Reasoning)。该模型表现出优秀的泛化和遮挡推理(occlusion-reasoning)能力,并在困难的场景文字识别基准任务上优于深度神经网络,且更具有 300 倍的数据效率(data efficient)优势。此外,该模型基本上打破了现代基于文本的验证码生成方案,即在没有具体验证码的启发式方法下分割目标。我们的模型在通向通用人工智能的路上可能是非常重要的,因为它强调了数据效率和语意合成性等特性。



图 1:人类在字母形式感知上的灵活性。(A)人类擅长解析不熟悉的验证码。(B)相同的字母可以有非常多的表现形式,上图都是「A」。(C)对形状的感知可以有助于将其解析为相近的目标。



图 2:RCN(Recursive Cortical Network)的结构。


上图(A)层级结构生成对象的轮廓,条件随机场(CRF)生成表面外观。(B)轮廓层级相同的两个子网络通过复制特定父结点的子结点特征并连接它们到该父结点的旁边分支(laterals)而保持独立的分支连接。图中绿色矩形的结点是特征「e」的复制。(C)表征正方形轮廓的三级 RCN,第二级特征表征着四个角,而每个角都使用四个线段的连接表示。(D)表征字母「A」的四级网络。



图 4:传播与特征学习的过程。


上图(A)中的 i 为前向传播(包括了侧面传播),生成多个字母的假设展示在输入图像中。PreProc 是一组类 Gabor 的滤波器,可以将像素转化为边缘似然度。ii 为后向传播和侧面传播(lateral propagation)创建的分割掩码,它可用来挑选前向传播的假设,上图掩码为「A」。iii 是错误的假设「V」正好拟合「A」和「K」的交叉点,错误的假设需要通过解析来解决。(iv)可以激活多个假设以产生联合解释来避免字母遮挡情况。(B)第二级特征上学习各种特征。彩色的圆圈表示特征激活,虚线圆圈表示提出的特征。(C)从轮廓领域学习边缘(laterals)。



图 5:用 RCN 解析验证码。


上图(A)为代表性的 ReCAPTCHA 解析方法所给出的前两个预测结果,它们的分割与标注由两个不同的标注者完成。(B)在受限的 CAPTCHA 数据集上 RCN 和 CNN 的词准率。在修改字符间距后,CNN 相比于 RCN 没有那么多的鲁棒性。(C)为不同 CAPTCHA 风格的准确率。(D)为代表性 BotDetect 解析和分割结果(使用不同颜色表示)。



图 6:使用少量样本进行训练的 MNIST 分类结果。


上图(A)为 RCN、CNN 和 CPM 的 MNIST 分类准确度。(B)为有损 MNIST 测试集上的分类准确度,图例展示了训练样本的总数。(C)为不同 RCN 配置的的 MNIST 分类准确度。



图 7:通过 RCN 生成、遮挡推理和场景文字解析。


这篇关于Vicarious发表Science论文:概率生成模型超越神经网络的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/336974

相关文章

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

Java实战之利用POI生成Excel图表

《Java实战之利用POI生成Excel图表》ApachePOI是Java生态中处理Office文档的核心工具,这篇文章主要为大家详细介绍了如何在Excel中创建折线图,柱状图,饼图等常见图表,需要的... 目录一、环境配置与依赖管理二、数据源准备与工作表构建三、图表生成核心步骤1. 折线图(Line Ch

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

浅析如何使用Swagger生成带权限控制的API文档

《浅析如何使用Swagger生成带权限控制的API文档》当涉及到权限控制时,如何生成既安全又详细的API文档就成了一个关键问题,所以这篇文章小编就来和大家好好聊聊如何用Swagger来生成带有... 目录准备工作配置 Swagger权限控制给 API 加上权限注解查看文档注意事项在咱们的开发工作里,API

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

如何在本地部署 DeepSeek Janus Pro 文生图大模型

《如何在本地部署DeepSeekJanusPro文生图大模型》DeepSeekJanusPro模型在本地成功部署,支持图片理解和文生图功能,通过Gradio界面进行交互,展示了其强大的多模态处... 目录什么是 Janus Pro1. 安装 conda2. 创建 python 虚拟环境3. 克隆 janus

Java使用POI-TL和JFreeChart动态生成Word报告

《Java使用POI-TL和JFreeChart动态生成Word报告》本文介绍了使用POI-TL和JFreeChart生成包含动态数据和图表的Word报告的方法,并分享了实际开发中的踩坑经验,通过代码... 目录前言一、需求背景二、方案分析三、 POI-TL + JFreeChart 实现3.1 Maven

本地私有化部署DeepSeek模型的详细教程

《本地私有化部署DeepSeek模型的详细教程》DeepSeek模型是一种强大的语言模型,本地私有化部署可以让用户在自己的环境中安全、高效地使用该模型,避免数据传输到外部带来的安全风险,同时也能根据自... 目录一、引言二、环境准备(一)硬件要求(二)软件要求(三)创建虚拟环境三、安装依赖库四、获取 Dee

DeepSeek模型本地部署的详细教程

《DeepSeek模型本地部署的详细教程》DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,在本地成功部署DeepSe... 目录一、环境准备(一)硬件需求(二)软件依赖二、安装Ollama三、下载并部署DeepSeek模型选